Диагональ квадрата - диаметр окружности ⇒ r = √2a/2
Площадь треугольника через радиус вписанной окружности = p * r, где p - полупериметр
через смежные стороны и синус угла = x^2√3/4, где x - сторона треугольника
имеем уравнение:
1,5x * √2a/2 = x^2√3/4
решив его получаем: x = √6 * a
Подставив полученное значение, скажем, в первую формулу, получим:
S = p * r = 1.5x * √2a/2 = 3√3a^2 / 2
Ответ: 3√3a^2 / 2.