Преобразуем 1 уравнение:
x^2+1=3xy-y^2;
x^2+y^2-3xy=-1;
выражаем х^2+у^2 и подставляем во 2:
x^2+y^2=3xy-1;
3(3xy-1)=13+xy;
9xy-3=13+xy;
8xy=16; xy=2;
система принимает вид:
x^2+y^2-3xy=-1; и xy=2;
x=2/y;
4/y^2+y^2-6=-1;
y^4-5y^2+4=0;
y^2=t;
t^2-5t+4=0;
D=9; t1=1; t2=4;
y^2=1; y1=1; y2=-1;
y^2=4; y3=2; y4=-2;
x1=2/1=2; x2=2/-1=-2;
x3=2/2=1; x4=2/-2=-1;
Ответ: (2;1), (-2;-1), (1;2), (-1;-2)