Вообще, эта задача высчитывается по теореме пифагора, НО у тебя в условии похоже что-то неправильно. Поскольку угол AHB равен 90 градусов. Катет не может быть больше гипотенузы. А у тебя получается, что гипотенуза равна 13, а катет 16.
А вообще рисунок вот такой: