X^3 - 6x^2 + 11x - 6 = 0
Можно, конечно, решить формулой Кардано для решения кубических уравнений, но это долго и трудно. Проще подобрать корни схемой Горнера.
Возможные рациональные корни x = a/b, где а - делитель свободного члена, b - делитель старшего коэффициента.
x = 1, -1, 2, -2, 3, -3, 6, -6
Находишь значения в этих точках.
y(1) = 1 - 6 + 11 - 6 = 0 - повезло сразу!
Теперь раскладываем:
x^3 - x^2 - 5x^2 + 5x + 6x - 6 = 0
(x - 1)(x^2 - 5x + 6) = 0
(x - 1)(x - 2)(x - 3) = 0
Ответ: x1 = 1, x2 = 2, x3 = 3