Данную систему можно решать так:
х² + 2ху + у² = 16
(х+у)²= 4
ху=3
х + у = 4. х + у = - 4
ху = 3. ху = 3
Пускай у = х2
Тогда за теореммой
Виета:
х² - 4х + 3 = 1. х²+4х+3= 0
х = 3; у = 1. х = -3; у = -1
х = 1; у = 3. х = -1; у = -3
Ответ: (-3;-1) ; (-1; -3) ; (1; 3) ; (3; 1)