Задача легко сводится к плоской - надо в прямоугольном треугольнике с острым уголом а и гипотенузой m найти такую точку на катете, противолежащем углу а, чтобы расстояния от этой точки до концов гипотенузы были равны.
(В нашей задаче этот треугольник образован боковым ребром, его проекцией на основание и высотой пирамиды. Центр шара лежит на высоте пирамиды и равноудален от концов ребра.)
Эта задача, конечно, очень проcтая, и может быть решена "в лоб" десятком способов. Мне нравится такой -
Продлим катет, противолежащий а, за вершину прямого угла и из вершины угла а проведем перпендикуляр к гипотенузе до пересечения с этим продолжением. Полученная точка ЛЕЖИТ НА ОКРУЖНОСТИ с центром В ИСКОМОЙ ТОЧКЕ, и отрезок между этой точкой и вторым концом гипотенузы есть диаметр окружности. (В начальной задаче эта окружность есть центральное сечение шара через ребро пирамиды.) Ясно, что получившийся прямоугольный треугольник имеет угол, ПРОТИВОЛЕЖАЩИЙ m, равный а. Поэтому ответ сразу выписывается :)
R = (1/2)*m/sin(a);