Вы, скорее всего, ошиблись. Всего 68 цветов, иначе дробные числа будут.
х-кол-во букетов по 5 цветов
у-кол-во букетов по 3 цветка
5х+3у=68
х+у=18
х=(68-3у)/5
х=18-у
(68-3у)/5=18-у
68-3у=(18-у)*5
68-3у=90-5у
-3у+5у=90-68
2у=22
у=22/2
у=11-кол-во букетов по 3 цветка
х=18-11=7-кол-во букетов по 5 цветов