Такая задача может встретиться в задачнике по математике? Может, более того, подобных задач там много. Но вы же их не будете в Информатику помещать? Предмет, в который надо помещать вопрос, определяется не местом, где вы вопрос увидели, а содержанием вопроса. В данном случае для решения задачи достаточно знаний математики, а знания из информатики тут не нужны. Поэтому и помещаем в математику.