У нас есть пять книг: 12345
Я могу выбрать первую книгу пятью различными способами.
Вторую книгу — четырьмя
Третью — тремя.
Умножаем 
60 различных вариантов.
Этот вариант подразумевает, что набор книг 123 и набор книг 321 — это два разных набора. Конечно, такой подход редко полезен.
Три книги можно переставить 3! = 6 различными способами.
Уникальных наборов из трех книг, следовательно 
Ответ: 10-ю способами.