1) Для того, чтобы решением оказался конечный промежуток, необходимо, чтобы выполнялось неравенство
a - 2 > 0
(Если a = 2, решений у неравенства нет вовсе, а если a - 2 < 0, то решение - объединение промежутков вида (-infinity, c) и (d, +infinity)).
Итак, первая скобка больше нуля, и на неё можно поделить.
2) Получаем неравенство x^2 - 2(a^2 - 2a) - 7 < 0
Заметим, что график функции y = x^2 + 2px + q - парабола - симметричен относительно прямой x = -p (это вертикальная прямая, проходящая через вершину параболы). Тогда множество решений (если оно не пусто) должно быть симметрично относительно x = -p / 2a. Таким образом, необходимо потребовать, чтобы:
а) у исходного неравенства были корни
б) абсцисса (т.е. х-координата) вершины была равна 3.
3) Проще всего начать со второго условия.
a^2 - 2a = 3
a^2 - 2a - 3 = 0
a1 = 3; a2 = -1
Отметим сразу, что второй корень не удовлетворяет условию a - 2 > 0, так что единственный возможный кандидат на ответ это a = 3.
3) Остается проверить, что при подстановке в неравенство a = 3 множество решений окажется непустым.
x^2 - 2(9 - 6)x - 7 < 0
x^2 - 6x - 7 < 0 - множество решений непусто, а именно -1 < x < 7 (или, переписав в другом виде, 3 - 4 < x < 3 + 4)
Ответ. a = 3; b = 4.