5 sin² x + 3 sin x cos x – 4(cos² x + sin² x) = 0,
sin² x + 3 sin x cos x – 4 cos² x = 0,
sin² x – sin x cos x + 4 sin x cos x – 4 cos² x = 0,
sin x (sin x – cos x) + 4 cos x (sin x – cos x) = 0,
(sin x – cos x)(sin x + 4 cos x) = 0.
Получаем два уравнения:
sin x = cos x,
tg x = 1,
x = π/4 + πn;
sin x = –4 cos x,
tg x = –4,
x = –arctg 4 + πk.
Ответом является объединение этих двух серий.