Выразим из второго уравнения переменную
:

И подставим ее в первое уравнение:

Найдем корень (или корни) данного уравнения возведением обеих частей в квадрат (и потом проверим, удовлетворяют ли эти корни Области Допустимых Значений:
и
, откуда
):

По теореме Виета
и
.
Откуда
и
.
Но второй корень нам не подходит, так как не выполняется условие
. Значит,
.
Найдем теперь вторую переменную:

Система решена! И
.
Ответ: 4.