4^x = (2^2)^x = (2^x)^2
Сделаем замену t = 2^x, при этом t > 0.
t^2 - 40t + 256 = 0
Получили обычное квадратное уравнение. Выделим полный квадрат:
t^2 - 2 * 20t + 400 - 400 + 256 = 0
(t - 20)^2 - 144 = 0
(t - 20)^2 - 12^2 = 0
Разложим по формуле "разность квадратов":
(t - 20 + 12)(t - 20 - 12) = 0
(t - 8)(t - 32) = 0
Произведение равно нулю, если равен нулю хотя бы один сомножитель, поэтому
t = 8 или t = 32
t = 2^3 или t = 2^5
Возвращаемся к исходной переменной:
2^x = 2^3 или 2^x = 2^5
x = 3 или x = 5.
Ответ. x = 3 или x = 5.