Пусть a,b,c - эти числа, тогда b = q*a, c = q*b = q*q*a.
a + q*a + q^2*a = 7
a^2 + q^2*a^2 + q^4*a^2 = 21
a(1 + q + q^2) = 7
a^2(1 + q^2 + q^4) = 21
делим в столбик q^4 + q^2 + 1 на q^2 + q + 1, получаем q^2 - q + 1, т.о.
a^2(1 + q + q^2) *(1 - q + q^2) = 21
a(1 + q + q^2) = 7
делим одно на другое, получаем:
a*(1 - q + q^2) = 3
теперь вычитаем из того, что получилось первое выражение:
a*(1 - q + q^2) = 3
a*(1 + q + q^2) = 7
-2aq = -4
aq = 2;
a = q/2
подставляем в любое из двух и решаем уравнение относительно q:
q - q^2 + q^3 = 6
Угадываем, что корень равен 2, делим на (х-2), убеждаемся, что больше корней нет.
Т.о. q = 2, a = 1;
a = 1
b = 2
c = 4
Можно проверить и убедиться, что оба условия выполняются, значит, решение верное