Пусть стоимость тетради - х. Значит, стоимость книги - 80+х.
Получим уравнение.
х+80+х=120
2х=120-80
2х=40
х=40:2
х=20 (руб) - стоит тетрадь.
20+80 = 100(руб) - стоит книга.
20*5= 100(руб) - стоит пять тетрадей.
100*3=300(руб) - стоит три книги.
Ответ: 100 рублей, 300 рублей.