1) Это задание не имеет однозначного ответа без данных о длине одного из катетов (или их соотношении).
Чем меньше один из катетов, тем меньший получается квадрат
Максимум при равенстве катетов.
2) Сумма равна нулю, так как противоположные члены равны по модулю и имеют разные знаки.
3) Раскроем скобки.
(sinx - cosx)² = 2.
sin²x + cos²x - 2sinx*cosx = 2.
Сумма первых двух членов равна 1.
Тогда - (2sinx*cosx) = 2 - 1. В скобках - это sin(2x).
Получаем sin(2x) = -1.
2х = 2πn - (π/2).
x = πn - (π/4).