(х^2-6х)^-10(х^2-6х)+21=0

$(x^2-6x)^2-10(x^2-6x)+21=0 \\ t=x^2-6x\\ t^2-10t+21=0 \\ D=100-84=16=4^2 \\ t_1=(10+4)/2=7\\ t_2=(10-4)/2=3\\$
Обратная замена даёт решение двух квадратных уравнений.
1. x^2-6x=7 <=> x^2-6x-7=0
D=36+28=64
x1=(6+8)/2=7
x2=(6-8)/2=-1

2. x^2-6x=3 <=> x^2-6x-3=0
D=36+12=48
x1=(6+4*кореньизтрех)/2=3+2*кореньизтрех
x2=3-2*кореньизтрех