Пусть х км/ч собственная скорость катера, x>0. Тогда:
(х-3) км/ч - скорость катера против течения,
(х+3) км/ч - скорость катера по течению,
8/(х-3) время движения катера против течения,
8/(х+3) время движения катера по течению.
На весь путь катер потратил 5 часов. Составим и решим уравнение: 8/(х-3) +8/(х+3)=5, ОДЗ : х≠3, х≠-3,
8(х+3)+8(х-3)=5(х²-9),
8х+24+8х-24-5х²+45=0,
-5х²+16х+45=0,
5х²-16х-45=0,
D=256+900=1156, √D=34,
x1=(16-34)/10=-1,8- не удовлетворяет условию,
x2= (16+34)/10=5 км/ч.
Ответ:х=5 км/ч.