cos^2(x)+2sin(2x)+3sin^2(x)-5=0
расписываем синус двойного угла,и 5 заменяем на 5sin^2+5cos^2
-4cos^2+4sincos-2sin^2=0
2cos^2-2sincos+sin^2=0
делим на sin^2
2(cos/sin)^2-2(cos/sin)+1=0
D/4=1-2<0=> решений нет