Смотри рисунок. Там сделали обозначения.
Ну и теперь одно из возможных решений.
из прямоугольных треугольников АСД и ВСД имеем
m²=an a=m²/n
n²=bm b=n²/m
площадь треугольника АВС
S= (АС*ВС)/2
S=(a+n)*(b+m)/2
подставляя а и b и приводя к общему знаменателю, получаем
S=(m²+n²)² /(2mn)