Я, собственно, исходил именно из этого, когда писал про 2β. Что тут интересного, мне непонятно. Высота сразу находится H = b/(1 - cos(2β)); если записать объем пирамиды через площадь всей поверхности и радиус вписанного шара (H - b), и через высоту H и площадь основания. Ну, и радиус вписанной в основание окружности тоже легко найти - это (H - b)*ctg(β); или H*ctg(2β), кому как нравится. Дальше через заданный угол α легко все найти