Разложите на множители:
ax+ay-x^2-2xy-y^2
-(x^2+2xy+y^2)+ax+ay
-(x+y)^2+a(x+y)=
(x+y)(y-x+a)
A(x+y)-(x+y)^2 (a-x-y)(x+y)