Преобразуем первое уравнение:
x^2+y^2=x^2+y^2+2xy-2xy=(x+y)^2-2xy=10
Обозначим x+y=t, xy=m
Тогда имеем систему
{t^2-2m=10
{t+m=-1
Умножаем второе уравнения на 2 и прибавляем к первому
t^2+2t-8=0
Отсюда t=2, t=-4, но m=-1-t
Значит
t=2 => m=-3
t=-4 => m=3
Теперь осталось решить 2 системы:
{x+y=2
{xy=-3, решая получаем (-1; 3) и (3;-1)
и
{x+y=-4
{xy=3 решая получаем (-3;-1), (-1;-3)
Теперь получаем, что наибольшее x/y=(-3)/(-1)=3