Int (x^2+2x-1)*cos 3x dx = Int x^2*cos 3x dx + 2*Int x*cos 3x dx - Int cos 3x dx = A
Решаем каждый интеграл по отдельности. Первый - 2 раза по частям.
Int x^2*cos 3x dx = 1/9*Int (3x)^2*cos 3x dx = |3x = y, dy = 3dx| =
= 1/27*Int y^2*cos y dy = |u=y^2, dv=cos y dy, du = 2y dy, v=sin y| =
= 1/27*(y^2*sin y - 2*Int y*sin y dy) = |u=y, dv=sin y, du=dy, v=-cos y| =
= 1/27*y^2*sin y - 2/27*(-y*cos y + Int cos y dy) =
= y^2/27*sin y + 2y/27*cos y - 2/27*sin y = x^2/3*sin 3x + 2x/9*cos 3x - 2/27*sin 3x
Int x*cos 3x dx берется точно также, только один раз по частям.
Int x*cos 3x dx = |y = 3x| = 1/9*Int y*cos y dy = |u=y, dv=cos y, du=dy, v=sin y| =
1/9*(y*sin y - Int sin y dy) = x/3*sin 3x + 1/9*cos 3x
Int cos 3x dx = 1/3*sin 3x
Подставляем все это в интеграл
A = x^2/3*sin 3x+2x/9*cos 3x-2/27*sin 3x+2x/3*sin 3x+2/9*cos 3x-1/3*sin 3x+C =
= sin 3x*(x^2/3 + 2x/3 - 2/27 - 1/3) + cos x*(2x/9 + 2/9) + C =
= 1/3*sin 3x*(x^2 + 2x + 1) + x/9*cos x*(2x + 2) - 2/27*sin 3x + C