Это однородное уравнение 2 типа. Решается так
sin^2x+5sinxcosx+2cos^2x+1=0
Но нас тут не устраивает единица, а единицу можно представить как сумму квадратов синуса и косинуса (основное тригонометрическое тождество), значит
sin^2x+5sinxcosx+2cos^2x+sin^2x+cos^2x=0
2sin^2x+5sinxcosx+3cos^2x=0 / :cos^2x (не равно) 0
2tg^2+5tg+3=0
Пусть tgx=t, тогда
2t^2+5t+3=0
Д=25-4*2*3=1, корень из Д=1
t1=(-5+1)/4=-1
t2=(-5-1)/4=-3/2
1) Если tgx=-1, тогда x=-П/4+ПК
2) Если tgx=-3/2, тогда x=arctg (-3/2)+ПК