Половина стороны квадрата пусть а, апофема пусть а*x (по смыслу x это тангенс угла боковой грани при стороне основания).
Тогда S = (2*a)^2 + 4*a*(a*x) = 4*a^2*(x + 1); (здесь S = 16)
и a^2 + (a*x)^2 = b^2; (а тут b = 5), то есть a^2*(x^2 + 1) = b^2;
Если разделить одно на другое, то останется квадратное уравнение для х.
(x^2 + 1)/(x + 1) = b^2/(S/4) = 4*b^2/S = 25/4;
Я не буду решать это уравнение, поскольку один корень "сразу видно" - x = 7 (потому что 25/4 = 50/8 = (49+1)/(7+1) ), а второй корень отрицательный (а почему ? :) впрочем, вы можете решить "как положено").
Кажется, ну и что, нашли х... но
a^2 = S/(4*(x + 1)) = 1/2; a = √2/2; это половина стороны основания.
Ответ √2.