X² - X * Y - 2 * Y² = (X - 2 * Y) * (X + Y) = 0
X² + Y² = 20
если из первого уравнения X = 2 * Y. то второе уравнение принимает вид
5 * Y² = 20, откуда Y = ± 2 и соответственно X = ± 4
если из первого уравнения X = -Y. то второе уравнение принимает вид
2 * Y² = 20, откуда Y = ± √ 10 и соответственно X = -+ √ 10
Ответ: (4; 2) (-4; -2) (√ 10; - √ 10) (- √ 10; √ 10)