Сумма квадратов катетов треугольника равна квадрату гипотенузы. Сторона квадрата есть гипотенуза треугольника. Чтобы найти площадь квадрата, нужно возвести в квадрат его сторону. То есть
a^2+b^2 - сторона квадрата
(a^2+b^2)^2 - площадь квадрата.
Ответ: А)