Могу предложить следующее решение:
(x-1)√(x^2-x-2)=0
Разложим квадратный трёхчлен на множители, для этого решим квадратное уравнение и найдём корни:
x^2-x-2=0
D=b^2-4ac=(-1)^2-4*1*(-2)=1+8=9
x1=(-b-√D)/2a=(1-3)/2=-1
x2=(-b+√D)/2a=(1+3)/2=2
Теперь можем записать
x^2-x-2=(x+1)(x-2)
Перепишем наше уравнение
(x-1)√(x+1)*(x-2)=0
Уравнение будет равно 0 если хотя бы один из множителей будет равен 0, поэтому можем записать систему уравнений:
x-1=0 x=1
x+1=0 ⇒ x=-1
x-2=0 x=2
Уравнение будет иметь три корня -1; 1; 2