5Sin² 3x +1 = 7Cos 3x
5(1-Cos²3x) +1 = 7Cos 3x
5 - 5Cos²3x +1 = 7Cos 3x
5Cos²3x +7Cos 3x -6 = 0
Решаем как квадратное
D = b²-4ac= 49 -4·5·(-6)=169
а) Cos3x = (-7 +13)/10 = 0,6
3х = +-arcCos0,6 + 2πk, k ∈Z
x = +-1/3arcCos0,6 +2πk/3, k∈Z
б) Cos 3x = (-7-13)/10 = -20/10= -2
нет решений.