Надо использовать свойства центрального и вписанного углов.
Радиусами исходный треугольник разбивается на 3 меньших равнобедренных с углами в центре 90, 120 и 150 градусов и углами при сторонах треугольника соответственно 45, 30 и 15 градусов.
S = 1/2R² + 2*1/2*Rsin30*Rcos30 + 2*1/2*Rsin15*Rcos15 =
=1/2R² + 1/2R²*sin60 + 1/2R²*sin30 =
=R²/2(1+√3/2 + 1/2) = R²(3+√3) / 4.