Найти решение задачи Коши. f(х)=0 y′′-9y′+18y=0 y(0)=0 y′(0)=0

Это однородное дифференциальное уравнение второго порядка.
Воспользуемся методом Эйлера.
Пусть $y=e^{kx}$ , тогда будем получать характеристическое уравнение вида:
$k^2-9k+18=0$
По т. Виета:
$k_1=6\\ k_2=3$

Тогда общее решение однородного уравнения примет вид:
$y=C_1y_1+C_2y_2=C_1e^{6x}+C_2e^{3x}$

Найдем решение задачи Коши:
$y(0)=0;\\ 0=C_1+C_2$

$y'=(C_1e^{6x}+C_2e^{3x})'=6C_1e^{6x}+3C_2e^{3x}$
$y'(0)=0;\\ 0=6C_1+3C_2$

Решив систему уравнений
$\displaystyle \left \{ {{C_1+C_2=0} \atop {6C_1+3C_2=0}} \right.\,\,\,\,\,\,\,\,\,\,\, \big(\star\big)$
Поскольку система $\big(\star\big)$ однородная, то $C_1=C_2=0$

То есть, решение задачи Коши будет иметь вид:
$y=0$