5cos^2x + 3sinxcosx=1 (разложим еденицу)
5cos^2x + 3sinxcosx - sin^2x - cos^2x = 0 (приведём подобные)
4cos^2x + 3sinxcosx - sin^2x = 0 (поделим на кос квадрат икс)
tg^2x - 3tgx -4 = 0
Пусть tgx = t , тогда
D = 9 + 16 = 25
t(1) = (3 - 5)\2 = -1
t(2) = (3 + 5)\2 = 4
1) tgx = -1
x = -пи\4 + пи*n
2) tgx = 4
x = arktg4