20-угольник - значит это замкнутая ломаная с 20 вершинами. У нее сторон будет столько же, сколько и вершин, значит 20.
Каждую точку из 20 можно соединить с 19 другими, но 2 из них - это стороны. Значит для каждой точки будет 17 диагоналей. 17*20=340.
Это нужно разделить на 2, потому что в каждой диагонали по 2 точки ( чтобы не было двойного счета). Получилось 170 диагоналей.