Подставим в уравнения пару чисел и посмотрим для какого будет решение
x^2-2xy-16=0
2²-2*2*(-3)-16=4+12-16=0 значит для первого является
2)2xy+y^2+1=0
2*2*(-3)+(-3)²+1=-12+9+1=-2 не является и для второго
3)x^2-3y+(-10)=0
2²-3(-3)-10=4+9-10=3 не является
xy-9+4=0
2(-3)-9+4=-6-9+4=-11