Я пока что в 10 классе, вот прочитал как решаются однородные диффуры, по образцу написал решение, поэтому не могу гарантировать правильность решения.
Но вроде проверка показала, что все верно.
Делим все на dx, получим x+2y-xy'=0.Так как уравнение однородное - делаем подстановку y=tx, тогда y' = (tx)'=t'x+tx'=t'x+t, упрощаем, получаем:
xt'=t+1
t - функция, зависящая от x, значит t'=dt/dx
отсюда x*(dt/dx)=t+1
dx/x=dt/(t+1)
Интегрируем, получаем ln(t+1)+M=ln(x)+C, отсюда ln(M(t+1))=ln(Cx), а отсюда
x=Q(t+1), где Q=M/C, а M и C - константы.
Делаем обратную замену, t=y/x
x=Q(x+y)/x
Qy=x^2-Qx
Так как y(1)=0, подставляем вместо x=1, y=0, отсюда (1-Q)=0, Q=1
y=x(x-1)
Значит y(3)=6