Вообще это ЛДУ 2-го порядка с переменными коэффициентами. Вводом переменной z=y' приходим к уравнению x*z'-z-x^2=0 = z'-z/x-x=0 - ЛДУ 1-го порядка. Пусть z=u*v ->u'*v+u*v' -u*v/x-x=0, v(u'-u/x)+u*v'-x=0, u'-u/x=0, du/u=dx/x, ln(u)=ln(x), u=x, x*v'=x, v'=1,v=x+C1, z=x*(x+C1)=x^2+C1*x. Проверка: x*z'-z-x^2=2*x^2+C1*x-x^2-C1*x-x^2=0, так что z найдено верно. Тогда y=x^3/3+C1*x^2/2. Проверка: y'=x^2+C1*x, y''=2*x+C1, x*y''-y'=2*x^2+C1*x-x^2-C1*x=x^2, так что у найдена верно.
Ответ: y=x^3+C1*x^2/2+C2