Найдём скалярное произведение с ортом оси x двумя способами:
Отсюда

(эту формулу можно получить и просто из рассмотрения прямоугольного треугольника).
Но нам нужны углы не с ортом, а с осью, поэтому надо брать не просто x-ую компоненту M, а её модуль.
Косинус угла вектора M с осью Ox равен
Аналогично, косинусы с осями Oy и Oz соответственно равны