По моему это не правельно
Сначала надо найти площадь целого прямоугольник представляя что он целый ( без выреза с права)
Получиться 72 а потом посчитать площадь этого вырезанного квадратика (тот что 4 на 4) получиться 16
И отрыть он большого прямоугольник этот маленький квадратик
72-16=56