Первое уравнение запишем в виде x^2-y^2=13-xy и возведем его в квадрат:
x^4+y^4+2*x^2*y^2=169+x^2*y^2-26xy
x^4+y^4+x^2*y^2+26xy=169 вычтем отсюда второе ур-ние системы, получим:
26xy=78
xy=3, вернемся к системе:
x^2+3+y^2=13 x^2+y^2=10
x^4+9+y^4=91 x^4+y^4=82
Из первого ур-ния выразим x^2=10-y^2 и подставим во второе:
(10-y^2)^2+y^4=82
100+y^4-20y^2+y^4=82
2y^4-20y^2+18=0
y^4-10y^2+9=0 сделаем замену y^2=t
t^2-10t+9-0
по теореме Виетта: t=9, t=1, отсюда
y^2=9, y=+-3
y^2=1, y=+-1
подставим в ур-ние x^2=10-y^2, получим
x^2=10-9=1, x=+-1
x^2=10-1=9, x=+-3
Ответ: х=+-1, y=+-3 или х=+-3, y=+-1