Все три решаются через составление характеристического уравнения
а) y''- 5y' + 6y = 0
k^2 - 5k + 6 = 0
(k - 2)(k - 3) = 0
k = 2, k = 3
y = C1 * e^2x + C2 * e^3x
б) y'' + 3y' = 0
k^2 + 3k = 0
k(k + 3) = 0
k = 0, k = -3
y = C1 + C2 * e^(-3x)
в) y'' + 2y' + 5y = 0
k^2 + 2k + 5 = 0
k^2 + 2k + 1 = -4
(k + 1)^2 = -4
k + 1 = +-2i
k = -1 +- 2i
y = C1 * e^(-x) * cos(2x) + C2 * e^(-x) * sin(2x)