Очевидная ошибка в условии налицо. Должно быть.
2x^3-3x^2y-2xy^2+3y^3
Тогда, группируя члены, содержащие 2 и затем члены, содержащие 3,
получим
2х(x^2-y^2)-3y(x^2-y^2)
Не забывая про формулу сокращенного умножения для разности квадратов, получим
(2х-3у)(х-у)(х+у)