Вот если и я попробую :) Ясно, что вариантов расположения второй окружности 2 - если центр её ближе к вершине угла и - если дальше, чем центр заданной окружности радиуса 13. Возможно, и ответ будет разный в каждом из этих случаев.
В числах решать не интересно, так что я введу обозначения R = 13; радиус первой окружности, r - радиус второй окружности, m = 5; - половина общей хорды, k = sin(α/2); где α = 60°; (чтобы не "тянуть" синус в записи); и пусть b = √(R^2 - m^2) = 12;
Если опустить из центров перпендикуляры к общей внешней касательной (стороне заданного угла), и из центра меньшей окружности провести параллельную к этой касательной прямую, то из полученного треугольника следует
d*sin(α/2) = IR - rI;
тут два варианта
d*k = R - r; то есть r = R - d*k; если R>r; и
d*k = r - R; то есть r = R + d*k; если r > R;
это можно записать в виде r = R + d*k; если считать, что k принимает два значения +sin(α/2) и -sin(α/2);
Кроме того, очевидно, что
d = √(R^2 - m^2) + √(r^2 - m^2);
Отсюда (d - √(R^2 - m^2))^2 = r^2 - m^2;
d^2 - 2*b*d + R^2 - m^2 = r^2 - m^2;
d^2 - 2*b*d + R^2 - r^2 = 0; пока что я нигде знака не потерял.Если теперь подставить r = R + d*k; то получится
d^2 - 2*b*d + R^2 - R^2 - 2*R*k*d - k^2*d^2 = 0;
d*(1 - k^2) = 2*(b + R*k);
d = 2*(b + R*k)/(1 - k^2);
конечно, в знаменателе получился квадрат косинуса 30°, равный 3/4.
сама величина k может принимать два значения +1/2 (если центр второй окружности дальше от вершины угла) и -1/2 (если центр второй окружности ближе к вершине угла, чем центр первой);
соответственно, будет два ответа.
1) d = 2*(12 + 13/2)*4/3 = 148/3; 2) d = 44/3;