В прямоугольнике углы прямые, т.е. стороны перпендикулярны, возьмем стороны как векторы. Если два вектора перпендикулярны, то их скалярное произведение равно нулю. Если докажем, что скалярное произведение векторов ДА и ДС =0,то ∠Д будет прямой.
Координаты вектора ДА=(-17-3)(-3+2)(0+2)=(-20;-1;2)
ДС=(-17-15)(-3-13)(0+11)=(-32;-16;11).
|DA|*|DC|=-20*(-32)+(-1)*(-26)+2*11=640+26+22=688≠0 значит эти векторы не перпендикулярны, ABCD не прямоугольник.