в первом уравнении можно выделить полный квадрат...
x² + y² = x² +2xy-2xy + y² = (x+y)² - 2xy
получим: (x+y)² - 2xy = 40
(x+y)² - 2*(-12) = 40
(x+y)² = 40-24 = 16 ---> или х+у = 4 или х+у = -4
1)
{ x+y = 4
{ xy = -12 (устно, как т.Виета...) или х=6; у=-2 или х=-2; у=6
2)
{ x+y = -4
{ xy = -12 (устно, как т.Виета...) или х=-6; у=2 или х=2; у=-6
Ответ: (6; -2); (-2; 6); (-6; 2); (2; -6)