выразите x через у и у через х в каждом из уравнений:
x^2+y^2=2xy и x^2-3xy + 2y^2 + y=1
тут в первом уравнении конечное выражение будет: (х+у)^2=0,следовательно: х+у =0; х=-у;у=-х.