Я бы решал выражением одной переменной через другую.
Например:
x+y <= a<br>x*y = b
Тогда:
x+y <= a<br>x = b/y
После чего заменял бы x на b/y
b/y+y <= a<br>Переносишь a и умножаешь на y
y^2-a*y+b <=0<br>После чего приравниваешь к нулю и находишь значения для y, после их нахождения подставляешь величину в уравнение и находишь все X.
Думаю, что так.