Ну сначала одз x>=0
и начиная отсюда ошибка
x-5√x+6=0 |^2
во - первых не надо возводить в квадрат во - вторых как возвел - это полная ерунда. Учись возводить
делаем замену
t=√x t>=0
t²-5t+6=0
D=25-4*6=1
t12=(5+-1)/2 = 2 3
t1=2 x=4
t2=3 x=9
ответ 4 и 9