Из второго найдем х=4+2у и поставляем в первую уравнению
(4+2у)²-3у(4+2у)-у²=9
16+16у+4у²-12у-6у²-у²-9=0
-3у²+4у+7=0
3у²-4у-7=0
D=b²-4ac=16-4*3*(-7)=16+84=100
y₁=(4-10)/6 =-1 x₁=4+2*(-1)=4-2=2
y₂=(4+10)/6=7/6=1 1/3 x₂=4+2*7/6=19/3=6 1/3
Ответ: (2; -1) (6 1/3; 1 1/6)