y = x^2-4x-5 - парабола, ветви направлены вверх. Соответственно, наименьшее значение будет в вершине этой параболы. координаты вершины вычисляются как:
x0 = -b/2a, в данном случае: x0 = -(-4)/2 = 4/2 = 2
y0 = y(x0) = 2^2-4*2-5 = 4-8-5 = -9
итого, наименьшее значение выражения: -9. Достигается это значение при x = 2