Можно, конечно подставить формулы sin3x и cos3x, но есть идея получше. Возведем все в квадрат.
sin^2(3x)*cos^2(3x)=3/16
(1-cos^2(3x))*cos^2(3x)=3/16
cos^2(3x)-cos^4(3x)=3/16
cos^2(3x)=o
o^2-o+3/16=0|*16
16o^2-16o+3=0
o1,2=0.25;0.75=cos^2(3x)
Поэтому: cos3x=+-1/2 cos3x=+-sqrt(3)/2
3x=+-π/3+2πn; 3x=+-π/6+2πn
x=+-π/9+2πn/3; x=+-π/18+2πn/3
n∈z