Всегда решал такие задачи подбором, благо в школьных примерах перебор очень небольшой. Так и здесь — можно заметить,что больше 4 шестиугольников вырезано быть не может, и разобрать 5 случаев, когда вырезано 0, 1, 2, 3, 4 шестиугольника. Каждый раз число пятиугольников определяется однозначно и если оно оказывается целым (скажем, (27-12)/5=3), то мы получаем пару решений — в этом случае 3 пятиугольника и 2 шестиугольника. Диофантовы уравнения — это хорошо, но для 1-4 классов излишне сложно.