Arccos(-2) = a
Это такой угол, что cos a = -2. Причем угол только в промежутке (0; pi)
Но функция косинуса принимает значения только [-1; 1], поэтому значение arccos(-2) не существует.
Если он у тебя получился как решение уравнения, значит, ты неправильно решил это уравнение.