Это уравнение равносильно системе двух уравнений (переход от второй строчки к третьей). Дальше банально решается квадратное уравнение (я решала с помощью обратной теоремы Виета, то есть подбирала корни, но, возможно, кому-то удобнее дискриминантом - кому как), после чего оба корня проверяются на соответствие первому условию системы.