Так как уравнение имеет три действительных корня, то его можно представить так:
x^3-3x^2-2x+a=(x-x1)(x-x2)(x-x3)=0
Раскрыв скобки, мы получим теорему Виета для кубического уравнения
{ x1+x2+x3 = 3
{ x1*x2+x1*x3+x2*x3 = -2
{ x1*x2*x3 = -a
Кроме того, мы знаем, что корни образуют геом. прогрессию.
x1=b; x2=b*q; x3=b*q^2
{ b+b*q+b*q^2 = 3
{ b*b*q+b*b*q^2+b*q*b*q^2 = -2
{ b*b*q*b*q^2 = -a
Упрощаем
{ b*(1+q+q^2) = 3
{ b^2*q*(1+q+q^2) = -2
{ b^3*q^3 = -a
Подставляем 1 уравнение во 2 уравнение
b^2*q*3/b = 3b*q = -2
b*q = -2/3
a = -b^3*q^3 = -(b*q)^3 = -(-2/3)^3 = 8/27
Таким образом а = 8/27. Но нам надо решить уравнение.
x^3-3x^2-2x+8/27 = 0
Умножим всё на 27
27x^3-81x^2-54x+8 = 0
Один корень нам известен: x2=b*q=-2/3
Подставим его в теорему Виета
{ x1+x2 = 3-x2 = 3+2/3 = 11/3
{ x1*x2 = -a/x2 = -(8/27) : (-2/3) = 4/9
Значит, x1 и x3 - корни квадратного уравнения
x^2 - 11/3*x + 4/9 = 0
9x^2 - 33x + 4 = 0
D=33^2-4*9*4=1089-144=945=(3√105)^2
x1 = (33-3√105)/18 = (11-√105)/6
x3 = (33+3√105)/18 = (11+√105)/6
На всякий случай найду ещё и q.
q=x2:x1=(-2/3) : ((11-√105)/6)=-4/(11-√105)
q=-4(11+√105)/(121-105)=-(11+√105)/4
Всё!