Вписанный треугольник равносторонний - иначе задачу не решить
тогда радиус описанной окружности R = √3/3 a
диагональ вписанного квадрата равна диаметру окружности d = 2R = 2√3/3 a
сторона квадрата из теоремы Пифагора b = d/√2 = 2√3/3 a/√2 = √6/3 a
ответ √6/3 a