Вектор АД = в - а, вектор ДА = а - в.
Вектор ДС = ДА + АС = -АД + АС = а - в + 2в = а + в.
Вектор DN = (2/3) DC = (2/3)(a+b).
Тогда искомый вектор AN = AD + DN =
=(b - a) + (2/3)(a+b)= (5/3)b - (a/3).
Вектор OM = -b + AD + DM = -b +b - a + (a + b)/3 = (b - 2a)/3.