В тупоугольном треугольнике ABC AC=BC=25, высота AH равна 20. Найдите cos ACB.

Рассмотрим ΔAHC.
$sinACH = \dfrac{AH}{AC} = \dfrac{20}{25} = \dfrac{4}{5} \\ \\$
Используем основное тригонометрическое тождество:
$cosACH = \sqrt{1 - sin^2ACH} = \sqrt{1 - \dfrac{16}{25} } = \sqrt{ \dfrac{9}{25} }= \dfrac{3}{5} \\$
∠BCH = 180° - ∠ACH.
Используя формулу приведения получаем, что
$cosACB = -cosACH = - \dfrac{3}{5}$