Смешанное произведение векторов( b a AB) b(0;-2;2),a(1;-2;-1),A(2,-2,0),B(1;2;-1)
Решение во вложении.