Интегрируем обе части, получаем:
y=3x^3/3 + x^(3/2)*(2/3) - 8x^2/2 +5x + c, где c - константа.
Сокращаем:
y=x^3 + 2/3 x^(3/2) - 4x^2 + 5x +c.
Подставляем y(1)=5:
5=1+2/3-4+5+c;
0=1+2/3-4+c;
c=3-2/3;
c=7/3.
Ответ: y=x^3 + 2/3 x^(3/2) - 4x^2 + 5x +7/3.