Sin a + cos a = p
Возводим в квадрат
(sin a + cos a)^2 = p^2
Раскрываем скобки
sin^2 a + cos^2 a + 2sin a*cos a = 1 + sin 2a = p^2
Отсюда
sin 2a = p^2 - 1
cos 2a = √(1 - sin^2 2a) = √(1 - (p^2 - 1)^2) = √(1 - (p^4 - 2p^2 + 1)) =
= √(2p^2 - p^4) = p*√(2 - p^2)
По формуле косинуса двойного аргумента
cos 2a = 2cos^2 a - 1 = 1 - 2sin^2 a
cos^2 a = (cos 2a + 1)/2; sin^2 a = (1 - cos 2a)/2
Подставляем
sin^2 a + cos^4 a = (1 - cos 2a)/2 + (cos 2a + 1)^2/4 =
= (1 - p*√(2 - p^2))/2 + (p*√(2 - p^2) + 1)^2/4
При желании можешь раскрыть скобки и упростить