Первый корень кубического уравнения подбираем среди чисел, на которые делится свободный член (у нас это 24): 1,-1,2,-2,3,-3,4,-4 и т.д. (обычно это небольшие числа). подставляя каждое вместо х , видим, что число 3 является корнем уравнения, значит многочлен х^3 - 3х^2 - 8х + 24 делится на (х-3) без остатка, что мы и делаем, после чего получаем уравнение из первой строчки приведенного решения.
ну а полученное квадратное уравнение решаем обычным способом через дискриминант.