Производную следует брать так:
, где n - степень, у нас она разная.
Функция выпукла вверх когда ее вторая производная отрицательна, функция выпукла вниз (вогнута) когда ее вторая производная положительна. Точки, в которых вторая производная равна нулю (это точки смены знака второй производной) - это точки перегиба (в них происходит смена направления выпуклости).