A²+2ab+b²+a+b-2=
=a²+ab+ab+b²+2a-a+2b-b-2=
=(a²+ab-a)+(ab+b²-b)+(2a+2b-2)=
=a(a+b-1)+b(a+b-1)+2(a+b-1)=
=(a+b-1)(a+b+2)
или так
a²+2ab+b²+a+b-2=
=(a²+2a+b²)+(a+b)-2=
=(a+b)²+(a+b)-2=
Замена: х=a+b
=x²+x-2=(x-1)(x+2)
корни найдены по теореме Виета
Обратная замена: x=a+b
=(a+b-1)(a+b+2)