х собственная скорость катера
х+3 его скорость по течению
х-3 его скорость против течения
5/(х+3)+12/(х-3)=18/х
расставляем дополнительные множители
5х(х-3)+12х(х+3)=18(х²-9)
5х²-15х+12х²+36х=18х²-162
х²-21х-162=0
D=441+648=1089=33²
х (1,2)=(21+(-)33)/2
х(1)=27
х(2)=-6
скорость не может выражаться отрицательным числом, поэтому ответ:
х=27 (км/ч)