Надо взять производную от этой функции и приравнять нулю: 
x вынести за скобки:
3 x - 12) x=0 " alt="(3 x - 12) x=0 " align="absmiddle" class="latex-formula">
Очевидно, что решение х=0 и х=4. Это означает что функция имеет три участка - до х<0, затем от 0 до 4, затем после х>4. Там где производная равна нулю функция ни растет, ни падает (так называемые экстремы функции), менят направление (вниз или вверх). Рекомендую это нарисовать на бумаге, нагляднее.
Проверим на первом участке, просто отнимем 1 от 0, будет х=-1(3*(-1)-12)*(-1)=(-15)*(-1)=15Видим что производная на этом участке больше нуля, значит функция растет (кстати очень резко).
Затем берем любое удобное значение на участке от 0 до 4, пусть х=1, получим(3*1-12)*1=-9Производная меньше нуля, значит функция идет вниз (тоже довольно резко на графике)
Третий участок, х больше 4, возьмем х=5(3*5-12)*5=3*5 = 15Производная положительная, опять очень резко вверх.
Я для наглядности все участки расписал, на самом деле на практике одного достаточно - понятно что в точках экстремума (производная функции равна нулю) функция меняет направление вверх или вниз, на соседних участках противоположные направления ... но вряд ли такой ответ удовлетворит учителя, лучше расписать).