Диагональ AC ПРЯМОУГОЛЬНИКА ABCD равна 3 см и составляет со стороной AD угол в 37...

Второй угол треугольника равен 53 градуса. Третий угол - прямой, в 90 градусов. Обозначим три угла и сторону:
$\alpha = 37; \beta=53\ \gamma=90; \\c=3$

Тогда можно воспользоваться формулой $S_{\Delta ADC}=\frac{c^2sin\alpha\ sin\beta}{2sin\gamma}$ , а затем помножить результат на 2, чтобы найти площадь прямоугольника. И еще учтем, что углы 37 и 53 - это приблизительно углы египетского треугольника со сторонами 3, 4 и 5. Поэтому синусы наших углов будут равны 3\5 и 4\5.

$S_{ABCD}=2\cdot\frac{3^2\cdot\frac{3}{5}\cdot\frac{4}{5}}{2}=\frac{108}{25}$

На вики куча формул площади треугольника, в статье про треугольник.