x²(y-1)-y²(x-1) = раскрываем скобки
= х²у - х² - ху² + у² = группируем
= (х²у-ху²) - (х²-у²) = из первой скобки выносим общий множитель, вторую раскладываем на множители с помощью формулы сокращённого умножения
= ху(х-у) - (х-у)(х+у) = видим (х-у) одинаковое выражение и выносим его за скобки, остаётся
(х-у) (ху-(х+у)) = упрощаем вторую скобку
=(х-у) (ху-х-у)