Если О - центр окружности, то BO - биссектриса (по свойству касательных, ну, или по равенству треугольников, если провести радиусы в точки касания). Значит по свойству биссектрис OA/OC=AB/BC=4/5. С другой стороны ОА+ОС=6. Решаем эту систему, получаем ОА=8/3, ОС=10/3. Значит ОА*ОС=80/9.