Можно решить проще.
умножим первое уравнение на 4, а второе на 3 и вычтем из второго первое уравнение. в результате получим.
x^2+y^2=13, подставим в первое уравнение.
5(x^2+y^2)-6yx=29
6xy=5*13-29=36
xy=6
запишем первое уравнение в виде 5(x^2+y^2+2xy)-16xy=29
5(x+y)^2=29+16*6=125
(x+y)^=25
имеем две системы хy=6
x+y=5
и xy=6
x+y=-5
первая система решение квадратного ура-я t^2-5t+6=0 t1=3 t2=2
получаем пары корней (3;2) (2;3)
вторая система t^2+5t+6=0 t1=-3 t2=-2
(-3;-2) (-2;-3)
ответ (-3;-2); (-2;-3) ; (2;3) (3;2)