Замена
х-у=u
x·y = v
Система примет вид:
Выразим из первого уравнения v=10-2u и подставим во второе уравнение:
5(10-2u)-3u=11,
50-10u-3u=11,
-13u=11-50
-13u=-39
u=-39:(-13)
u=3
v=10-2u=10-2·3=10-6=4
Возвращаемся к переменным х и у:
Выразим из первого уравнения y=x-3 и подставим во второе уравнение:
х(х-3)=4
х²-3х-4=0
D=9-4·(-4)=9+16=25=5²
x₁=(3-5)/2=-1 или х₂=(3+5)/2=4
тогда
у₁=х₁-3=-1-3=-4 или у₂=х₂-3=4-3=1
Ответ. (-1;-4) ; (4;1)