Всё просто, подкорненое выражение не может быть отрицательным, поэтому решаем квадратное уравнение, корни отмечаем на числовой оси, методом интервалов расставляем знаки.
-x^2-2x+3
D=4+12=16
x1=(2+4)/-2=-3
x2=(2-4)/-2=1
Хотя я вычислил по теореме Виета.
Наносим (-3) и 1 на числовую ось, внутрений промежуток положительный, что нам и надо, т.е. ОДЗ: x принадлежит [-3;1]