Каким методом решать эту систему с двумя неизвестными

Заметим, что $x^2y+xy^2=xy(x+y)$
$\left \{ {{xy(x+y)=6} \atop {xy+(x+y)=5}} \right.$
Пусть $xy=a, x+y=b$
$\left \{ {{ab=6} \atop {a+b=5}} \right.$
Решения легко подбираются, а можно и решить подстановкой. В итоге получаем две системы:
$\left \{ {{a=2} \atop {b=3}} \right.$ или $\left \{ {{a=3} \atop {b=2}} \right.$
$\left \{ {{xy=2} \atop {x+y=3}} \right.$ или $\left \{ {{xy=3} \atop {x+y=2}} \right.$
Решения снова можно подобрать или найти, решив систему подстановкой. В итоге первая система разбивается на две, а вторая решений не имеет.
$\left \{ {{x=2} \atop {y=1}} \right.$ или $\left \{ {{x=1} \atop {y=2}} \right.$

Ответ: (1; 2), (2; 1)