Если данный многочлен делится на (x-1)^2 то x=1 , является корнем данного многочлена , подставив , получим a+b=-1 , подставим в исходный многочлен b=-1-a , в итоге оно преобразуется в ax^4-ax^3-x^3+1 поделим его на x-1 , (столбиком) получаем ax^3-x^2-x-1 так как это частное , то x=1 так же является корнем данного многочлена , то есть подставив ещё раз x=1 , a-3=0 , откуда a=3 , b=-4 .