Пусть биссектриса АО пересекает стороны ВС в точке М. Прежде, чем раскладывать, вычислим ВМ и СМ. Ясно, что ВМ/СМ = 3/7; ВМ + СМ = 5;
отсюда ВМ = 7/2; СМ = 3/2; (и, что важнее всего! -) СМ = СВ*7/10
Применяя свойство биссектрисы к треугольнику СМА (биссектриса СО), получаем
МО/АО = СМ/АС = 1/2;
(на самом деле, это можно было бы сразу записать, если известно свойство точки пересечения биссектрис. Фактически я это свойство вывел)
АО = АМ*2/3;
Вот теперь можно заняться векторами. Жирным шрифтом обозначены векторы, а обычными буквами (если где-то встретятся)- их модули
СВ = АВ - АС = b - a;
CM = (7/10)*(b - a);
АМ = АС + СМ = a + (7/10)*(b - a) = a*3/10 + b*7/10;
AO = AM*2/3 = (a*3/10 + b*7/10)*2/3 = a/5 + b*7/15;
И, наконец,
СО = АO - АC = a/5 + b*7/15 - a = (-4/5)*a + (7/15)*b;
На самом деле, СО - это вычурный выбор, интересно именно АО. Точно тем же способом можно получить очень красивое выражение для АО в общем виде
АО = (a*b + b*a)/(a + b + c)