Заменим cos6x = 1 - 2sin²3x.
5sin3x + 1 - 2sin²3x + 6 = 0. Заменим sin3x = t.
Получили квадратное уравнение:
2t² - 5t - 7 = 0.
Квадратное уравнение, решаем относительно t: Ищем дискриминант:
D=(-5)^2-4*2*(-7)=25-4*2*(-7)=25-8*(-7)=25-(-8*7)=25-(-56)=25+56=81;Дискриминант больше 0, уравнение имеет 2 корня:
t_1=(√81-(-5))/(2*2)=(9-(-5))/(2*2)=(9+5)/(2*2)=14/(2*2)=14/4=3.5 (этот корень не принимаем по ОДЗ);t_2=(-√81-(-5))/(2*2)=(-9-(-5))/(2*2)=(-9+5)/(2*2)=-4/(2*2)=-4/4=-1.
Обратная замена: sin3x = -1,
3х = (-π/2) + 2πk, k ∈ Z.
x = (-π/6) + (2/3)πk, k ∈ Z.