Если я не ошибаюсь, то так, а там сам решай
a,b,c,m,n – вектора
m=a+2b-c,
n=2a-b,
|a|=2,
|b|=3
Ψ = 60⁰ (угол между векторами a и b)
c перпендикулярно a;
c перпендикулярно b.
(mn) – ?
Заметим, т.к. c перпендикулярно a, то их скалярное произведение равно нулю
(ас) = 0. (*)
Аналогично
(bc) = 0. (**)
Умножаем скалярно
(mn) = (a+2b-c)(2a-b)=2|а|²-(ab)+4(ab)-2|b|²-2(ac)+(bc).
С учётом (*) и (**), последние два слагаемых равны нулю (и Ваш неизвестный вектор С пропал!)
(mn) = 2|а|²+3(ab)-2|b|² = 2|а|²+3|a|•|b|cos60⁰-2|b|² =
= 2•2²+3•2•3•0,5-2•3² = -1.
(mn) = -1 – ответ.