Для начала раскрываем скобки, пользуемся формулой (a+b)^2=a^2+2ab+b^2
Итак:
(x+8)^2=x^2+16x+64
Затем, пользуемся распределительным свойством
a(b+c)=ab+ac
Итак:
-4x(x-2)=-4x^2+8
Теперь осталось отнять одно из другого и сократить
x^2+16x+64-4x^2+8x=-3x^2+24x+64