А потом (в общем случае) нужно подставлять найденные точки, а также края отрезка в функцию. Затем тупо искать наименьшее/наибольшее нескольких чисел.
Тут y'<0 при всех х, так что функцию монотонно убывает, и максимальное значение достигается на правом конце отрезка (т.е. в нуле, y(0)=5) </p>