преобразуем числитель:
(x² - 2x + 8)(x² - 8) - 2x(x² - 2x + 8) = (x² - 2x + 8)(x² - 2x - 8)
найдем нули:
x² - 2x + 8 = 0
D = 4 - 32 < 0 - не имеет корней в R
x² - 2x - 8 = 0
D = 4 + 32 = 36
x₁ = (2 - 6)/2 = -2
x₂ = (2 + 6)/2 = 4
x + 3 = 0
x = -3
_-__(-3)__+__(-2)___-______(4)__+__
x∈(-∞; -3) U (-2; 4)