преобразуем отдельно
знаменатель
x^2-5x+4=0
D =9
x1=1
x2=4
x^2-5x+4 = (x-4) (x-1)
числитель
x^5 - 4x^4 - 4x +16 =
x^4 (x-4) -4 (x-4)= (x^4-4) (x-4) = (x^2-2) (x^2+2) (x-4)
подставим назад в дробь
(x^2-2) (x^2+2) (x-4) / (x^2-2)(x-1) (x-4) = (x^2+2) / (x-1)