Доказать можно только на примере.
1) Раскрываем скобки:
(а+1)(3-а)=3а-а^2+3-а
2)Допустим, что а=10
Получаем:
30-100+3-10=-77
3)Допустим, что а=12
Получаем:
36-144+3-12=-117
4)Из этого получаем, что при любых значениях а, выражение будет меньше 5, т.к. мы отнимем всегду удвоенную а, что делает выражение отрицательным=>меньше 5