Если все под корнем, то подкоренное выражение должно быть больше либо равно нулю, тогда надо решить неравенство:
25x^2 - 25x + 6 > 0
25x^2 - 25x + 6 = 0
D = 625 - 6*4*25 = 25 корень(25) = 5
x1 = (25+5)/(2*25) = 3/5
x2 = (25-5)/50 = 2/5
Решением неравенства и область определения функции будет интервал: (-беск;2/5] U [3/5; +беск)