Не всегда. Возьмите квадрат 4х4 клетки, постройте в верхнем левом и нижнем правом углу по два прямоугольных равнобедренных треугольника с боковой стороной 1 клетка, соедините вершины, отличные от вершин квадрата, получите прямоугольник, но не квадрат.