Обозначаю sqrt - корень квадратный.
Половинка диагонали равна 5 см. Треугольник, образованный половинками диагоналей и углом 60 гр. - равносторонний, потому что углы при основании равны по (180-60)/2 =60 гр. Тогда меньшая сторона прямоугольника равна половине диагонали и равна а=5 см.
Итак, одна часть прямого угла прямоугольника равна 60гр, а другая 90-60=30 гр.
Диагональ и большая сторона образуют прямоугольный треугольник, из которого большая сторона b = 10*cos 30= 10 * (sqrt(3)/2) = 5sqrt(3).
Площадь прямоугольника s = а*b = 5*5sqrt(3) = 25sqrt(3)