А вот вам такое решение (уж и не знаю, как вы к нему отнесетесь :))
Дополнительно я обозначу центры окружностей О1 и О2, и точку пересечения общей касательной в точке М с АВ, как Р.
Легко увидеть, что угол АМВ прямой (доказать это есть много способов, например так - O1A II O2B, поэтому сумма углов AO1M и BO2M равна 180°, а угол МАВ равен половине угла AO1M, угол MBA - половине угла MO2B, то есть их сумма 90°). Кроме того, Р - середина АВ (все касательные из точки Р равны между собой :) ). То есть МР - медиана прямоугольного треугольника АМВ. Поскольку это "египетский" (то есть подобный треугольнику 3,4,5) треугольник с катетами 6 и 8,то АВ = 10, и МР = АВ/2 = 5.
По той же самой причине (сумма углов AO1M и BO2M равна 180°) треугольник О1РО2 тоже прямоугольный, так как точка Р лежит на биссектрисах этих углов. Более того, поскольку, например, угол РО1М равен половине угла АО1М, то есть равен углу МАВ, то треугольники МАВ и О1РО2 подобны. То есть О1РО2 - тоже "египетский" треугольник, подобный (3,4,5). При этом медиана треугольника МАВ, то есть МР = 5; является высотой к гипотенузе треугольника О1РО2, так как касательная МР перпендикулярна линии центров О1О2. А радиусы О1М и О2М - это отрезки, на которые высота РМ делит гипотенузу О1О2.
Итак, требуется найти такой "египетский" треугольник, у которого высота к гипотенузе равна 5. У обычного "египетского" треугольника высота равна 3*4/5 = 2,4; а отрезки, на которые высота делит гипотенузу, равны 1,8 и 3,2;
(уж посчитайте, если не знаете :))
поэтому коэффициент подобия равен 5/2,4;
а искомые радиусы О2М = 1,8*5/2,4 = 15/4 и O1M = 3,2*25/12 = 20/3;
Легко проверить, что О1М*О2М = 5^2;