Без всяких вычислений ясно, что экстремумов нет: x^2 - y^2 это "седло".
Теперь с вычислениями:
Решаем систему и получаем, что x = 1, y = 0. Находим вторые производные в этой точке:
Так как AC - B^2 < 0, то экстремума в этой точке нет.
Ответ. Экстремумов нет.