Пусть было Х групп. Тогда в одной группе было 60 / X человек.
Получаем уравнение
60 60
------ - --------- = 3
Х Х + 1
60 * (Х + 1) - 60 * Х
------------------------- = 3
Х * (Х + 1)
3 * Х * (Х + 1) = 60
Х² + Х - 20 = 0
Х₁ = -5 (не подходит) Х₂ = 4
Итак, было 4 группы, а в каждой группе было по 60 / 4 = 15 человек.
Если групп стало бы 4 + 1 = 5, то в каждой группе стало бы 60 / 5 = 12
человек, то есть на 15 - 12 = 3 человека меньше, чем было.