Чтобы прямоугольник был наибольшей площади sin угла между диагоналями должен быть равен 1
(S=1/2d^2sin L где L это угол между диагоналями).
Это угол 90 градусов стало быть прямоугольник это квадрат.
Диагональ это диаметр описанной окружности, если r=5, то диаметр =10
S=1/2 *10^2 sin90=
50(ед)^2
S=a^2
a^2=50
a=5корней из двух