Какую наибольшую боковую поверхность может иметь треугольная пирамида у которой все боковые ребра равны a?
Смотри во вложении.
Потом найти b и подставить в S