Выражение: x^4*(x^2+x-3)-x*(x^5+1)-3*x^4+x^5
Решаем по шагам:
1. x^6+x^5-x^4*3-x*(x^5+1)-3*x^4+x^5
2. x^6+x^5-x^4*3-(x^6+x)-3*x^4+x^5
3. x^6+x^5-x^4*3-x^6-x-3*x^4+x^5
4. x^5-x^4*3-x-3*x^4+x^5
5. x^5-6*x^4-x+x^5
6. 2*x^5-6*x^4-x (далее, подставляете и всё).