Если их скалярное произведение равно 0, то есть: (a-b)·(a+b)=0 a²-b²=0 |a|²-|b|²=0, можете воспользоваться этим условием. Либо вычисляете координаты векторов a+b и a-b и находите скалярное произведение в координатах.