Выражаем из первого х : х=11-3y
И подставляем вместо х во второе уравнение: 2*(11-3y)+y^2=14
Дальше решаем:
22-6y+y^2-14=0
y^2-6y+8=0
D=36-4*8=4
y1=6+2/2=4
y2=6-2/2=2
И теперь подставляем в первое уравнение y1 и y2:
x1=11-3*4=-1
y1=4
И
x2=11-3*2=5
y2=2