Предположим, что a и b это катеты тогда по теореме Пифагора сумма их квадратов должна равняться квадрату гипотенузы. т.е. а²+b²=c², тогда нужно вводить нуль.
Предположим, что все же есть треугольник, который подчиняется условию и теореме Пифагора. Допустим а - гипотенуза.
Тогда b²+c²=a², кроме того, выполнено условие a²+b²=5c²,получили систему, преобразуем уравнения в ней.
b²+c²=a²
-b²+5c²=a²
_______________
сложим почленно уравнения. получим 6с²=2а², т.к. с и а -положительны, то а =√3*с, выразим теперь b через с, вычтя из второго уравнения системы первое. Получим. 4с²-2b²=0; b²=2с², откуда получим b=√2с, тогда (а/с)²=3; (b/c)²=2;
И, наконец, третий случай, в нем а и с будут катетами, b гипотенузой, понятно, что поменяются, местами а и b, но соотношения останутся такими (а/с)²; (b/c)²=3;