1) Решаем заменой
{ y = x - 4
{ x^2 - 2(x - 4) - 11 = 0
x^2 - 2x + 8 - 11 = x^2 - 2x - 3 = 0
(x + 1)(x - 3) = 0
x1 = -1; y1 = -1 - 4 = -5
x2 = 3; y2 = 3 - 4 = -1
2) Решаем тоже заменой
{ y = x - 1
{ x^2 + (x - 1)^2 = 5
x^2 + x^2 - 2x + 1 - 5 = 0
2x^2 - 2x - 4 = 2(x^2 - x - 2) = 0
2(x + 1)(x - 2) = 0
x1 = -1; y1 = -1 - 1 = -2
x2 = 2; y2 = 2 - 1 = 1
3) Гипотенуза треугольника осталась неизвестной.