За х и у принимаем кол-во одних и других тетрадей.
12x+18y=840
x+y=60
Такая вот простенькая система.
Из 2-го выражаешь х или у, что хочешь, подставляешь в первое, находишь одну переменную, потом из 2-го у-ния находишь вторую переменную.
12x+18y=840
х=60-у
12(60-у) +18у=840
720-12у+18у=840
6у=120
у=20
х=60-20=40
20 и 40 тетрадей