I - первая группа
II - вторая группа
III - третья группа
составляем 3 уравнения:
I + II = 96
II + III = 156
I + III = 132
из 1 уравнения выражаем II
II=96-I
из 3 уравнения выражаем III
III=132-I
подставляем во 2 уравнение
(96-I)+(132-I)=156
96-I+132-I=156
228-2I=156
-2I=156-228
-2I=-72
I=36 (чел.) - в первой группе
II=96-I=96-36=60 (чел.) - во второй группе
III=132-I=132-36=96 (чел.) - в третьей группе