Составляем и решаем характеристическое уравнение: r²-5*r+6=(r-2)*(r-3)=0, оно имеет корни r1=2 и r2=3. Значит, общее решение однородного уравнения y''-5*y'+6*y=0 имеет вид Yоо =C1*e^(2*x)+C2*e^(3*x).
Правая часть уравнения имеет вид e^(m*x)*[P1(x)*cos(n*x)+P2(x)*sin(n*x)], где P1(x) и P2(x) - многочлены. В нашем случае m=0, n=3, P1(x)=0, P2(x)=78. И так как при этом числа m+i*n и m-i*n (здесь i=√-1), то есть в нашем случае числа 3*i и -3*i, не являются корнями характеристического уравнения, то частное решение уравнения будем искать в виде e^(m*x)*[R1(x)*cos(n*x)+R2(x)*sin(n*x)], где R1(x) и R2(x) - многочлены, степень которых равна высшей из степеней многочленов P1(x) и P2(x). В нашем случае R1(x)=A, R2(x)=B, где A и B - неизвестные пока числа.
С учётом изложенного, будем искать правую часть в виде вид Yчн =A*cos(3*x)+B*sin(3*x). Дважды дифференцируем правую часть:
Yчн'=-3*A*sin(3*x)+3*B*cos(3*x),Yчн''=-9*A*cos(3*x)-9*B*sin(3*x).
Подставляя теперь Yчн, Yчн' и Yчн'' в уравнение, получаем:
sin(3*x)*[15*A-3*B]+cos(3*x)*[-3*A-15*B]=78*sin(3*x). Отсюда
следует система уравнений для определения A и B:
15*A-3*B=78
-3*A-15*B=0
Решая систему, находим A=5, B=-1. Значит, частное решение уравнения имеет вид Yчн=5*cos(3*x)-sin(3*x), а общее решение уравнение таково: Y=Yоо+Yчн=C1*e^(2*x)+C2*e^(3*x)+5*cos(3*x)-sin(3*x). Тогда Y'=2*C1*e^(2*x)+3*C2*e^(3*x)-15*sin(3*x)-3*cos(3*x). Используя начальные условия, получаем систему уравнений для определения C1 и C2:
C1+C2+5=2
2*C1+3*C2-3=2
Решая её, находим C1=-14, C2=11. Значит, частное решение уравнения таково: Yч=-14*e^(2*x)+11*e^(3*x)+5*cos(3*x)-sin(3*x).
Подставляя это решение в уравнение, убеждаемся, что оно удовлетворяет как самому уравнению, так и начальным условиям.
Ответ: -14*e^(2*x)+11*e^(3*x)+5*cos(3*x)-sin(3*x).