Пусть стороны прямоугольника а и b, а отрезок АК обозначим как h, диагональ прямоугольника d
тогда по теореме Пифагора
a²+h²=4²
b²+h²=5²
a²+b²=d²
d²+h²=7²
-------
из первого
h² = 16-a²
подставляем во все оставшиеся уравнения
b²+16-a²=25
a²+b²=d²
d²+16-a²=49
---
b²-a²=9
a²+b²=d²
d²-a²=33
d² из второго подставим в третье
b²-a²=9
a²+b²-a²=33
---
b²-a²=9
b²=33
---
33-a²=9
a²=33-9=24
---
h² = 16-a² = 16-24 = -8
Всё, решений в вещественных числах не существует.