Всё очень просто: сначала считаешь площадь прямоугольника, стороны которого качаются крайних точек фигуры. Потом считаешь площадь треугольников, которые входят в состав прямоугольника, но не входят в состав фигуры и вычитаешь эту площадь из площади прямоугольника.
5*6-(3*3*0.5+3*3*0.5+4*2*0.5+2*2*0.5)=30-15=15