B5=b1*q^4=8
S3=b1*(q^3-1)/(q-1)=12
b1=8/q^4
8/q^4*(q^2+q+1)=12
2(q^2+q+1)=3q^4
нужно решать уравнение 4-ой степени, по теореме виета или через резольвенту (но это в школе не проходят) можно попробовать решить графически.
В итоге получается что q≈1.268 или q≈-0.878
b1≈3.095 или b1≈13.468 (соответственно)