1 способ
Разделить многоугольник на части(так чтоб было легче)(на маленькие четырех угольники)
и найти площади этих частей. Потом сложить эти площади.
2 способ
Добавить фигуру (чтоб было легче)(чтоб получился четырехугольник)
потом найти площадь всей фигуры и той которую добавили, после этого вычесть площадь фигуры которой добавили.