(х²-6х²)+(х²-6х)-56=0

Вероятно уравнение должно быть записано так :
(x² - 6x)² + (x² - 6x) - 56 = 0
Если так, то решается оно таким образом:
Сделаем замену:
x² - 6x = m
m² + m - 56 = 0
D = 1² - 4 * 1 * (- 56) = 1 + 224 = 225 = 15²
$m_{1} = \frac{-1+15}{2}=7\\\\ m_{2} = \frac{-1-15}{2}=-8$
Вернёмся к замене:
$x^{2} -6x=7\\\\ x^{2} -6x-7=0\\\\D=(-6) ^{2} -4*1*(-7)=36 + 28=64= 8^{2}\\\\ x_{1} = \frac{6+8}{2}=7\\\\ x_{2}= \frac{6-8}{2}=-1\\\\\\ x^{2} -6x=-8\\\\ x^{2} -6x+8=0\\\\D=(-6) ^{2}-4*1*8=36-32=4= 2^{2} \\\\ x_{3}= \frac{6+2}{2}=4\\\\ x_{4}= \frac{6-2}{2} =2$
Ответ: - 1 ; 2 ; 4 ; 7