Трёхголовых количество -х
пятиголовых количество -у
стряпаем систему
х+у=11
3х+5у=45
из первого выводим х=11-у и ставим во второе
3(11-у)+5у=45
33-3у+5у=45
2у=12
у=6
в первый ставим
Х+6 =11
х=5
проверка 5*3+6*5=15+30=45
ответ 5 трехголовых и 6 пятиголовых