Х книг - на первой полке
3х книг - на второй полке
3х - 2 книг - на третьей полке
х + 3х + 3х - 2 = 96
7х = 92
х = 14 книг - на первой полке
3 * 14 = 42 книги - на второй полке
3 * 14 - 2 = 40 книг - на третьей полке
проверка: 14 + 42 + 40 = 96 книг на трех полках