Я бы сказал довольно сложное уравнение
Из первого уравнения находим y
y=(1-x)/(1+x) здесь все просто
x+y+xy=1
y(1+x)+x-1=0
y(1+x)=1-x
y=(1-x)/(1+x)
Подставляем значение у во второе выражение
x^2(1-x)/(1+x)+x((1-x)/(1+x))^2=-30
После преобразования получим
-x^4+x^3-31x^2-60x-29=0
Графическое решение дает приблизительные корни
x1=(-3.9)
x2=(-3.2)
x3=0.4
x4=5.7
Все корни приблизительные, до 0.1.
Если необходимо более точно, на exel сделать диаграмму по последней формуле и путем интерполяции вычислить более точно.