f(x/(x+1))=x^2
Это функциональное уравнение.
Методы решения могут быть разными.
Один из стандартных методов - метод замены переменной.
x/(x+1) = t
x=t(x+1)
x=t(x+1)
x=tx+t
x-tx=t
x(1-t)=t
x=t/(1-t)
подставляем в исходное уравнение
f(t)=t^2/(1-t)^2
теперь можно переименовать переменную t в x
f(x)=x^2/(1-x)^2