Во-первых, Область определения логарифма.
tg x > 0; x € (pi*k; pi/2+pi*k)
Во-вторых, log3 (ctg x) = log3 (1/tg x) = - log3 (tg x)
В-третьих, делаем замену log3 (tg x) = t
2t^2 - 5t + 2 = 0
(t - 2)(2t - 1) = 0
1) t1 = log3 (tg x) = 2
tg x = 9; x1 = arctg(9) + pi*k
2) t2 = log3 (tg x) = 1/2
tg x = √3; x2 = pi/3 + pi*n