Сразу найдем радиус окружности. В условии сказано, что круг, ограниченный ею, и прямоугольник равновелики. Приравняв площади, найдем R - радиус окружности:
R^2 = \frac{ab}{\pi} = \frac{5*4}{\pi} = \frac{20}{\pi} => R = \sqrt{\frac{20}{\pi}} > 2.5" alt="\pi R^2 = a*b => R^2 = \frac{ab}{\pi} = \frac{5*4}{\pi} = \frac{20}{\pi} => R = \sqrt{\frac{20}{\pi}} > 2.5" align="absmiddle" class="latex-formula">
Так как радиус вышел больше 2.5, то исходный рисунок некорректен, и я прошу обратить внимание на мою схему.
С помощью Автокада находим центральные углы: тут они равны 75° и 16°.
Теперь можем найти площади сегментов, которые находятся вне прямоугольника. По формуле площади сегмента:
, где R - это радиус окружности, а α - это угол в градусах.
Найдем площадь сегмента, который стягивается хордой GH:

На самом деле, точно такая же площадь и у сегмента, который стягивается хордой LK из соображений симметрии.
Таким же образом находим площадь сегментов, которые стягиваются хордами EF и IJ. Они также будут равны между собой:
.
К сожалению, синус нельзя представить в виде выражения, поэтому так и оставим.
Осталось найти площадь криволинейной трапеции AEL. В силу соображений симметрии, три таких же трапеции будут иметь такую же площадь.
Найдем координату точки L из следующих соображений:
Точка L лежим на прямой y = 0.
Уравнение окружности имеет вид:
, где
- это координаты центра окружности и ее радиус соответственно. В нашем случае
Для того, чтобы найти точку пересечения, подставим y = 0 в уравнение, и найдем x:

Возьмем знак минус, так как со знаком плюс будет точка K. Итого: координата точки 
Теперь найдем координату точки E. Тут почти все тоже самое, только она лежит на прямой x = 0. Подставим в уравнение окружности и найдем y:

Также возьмем с минусом, так как с плюсом будет точка F.
Таким образом, координата точки E имеет вид:

PS: остальное завтра допишу.