Я не люблю слова выпуклый и вогнутый, тем более, что в разных учебниках они определяются по-разному.
Я буду писать выпуклый вверх и выпуклый вниз.
А ты сам сообрази, как вам объясняли, какой выпуклый, а какой вогнутый.
Нужно взять вторую производную и посмотреть ее знак.
y = x^5 - 5x^3 - 15x^2 - 30
y ' = 5x^4 - 15x^2 - 30x
y '' = 20x^3 - 30x - 30
y '' (1,11) = 20*(1,11)^3 - 30*1,11 - 30 = 27,35262 - 33,3 - 30 < 0
В окрестностях этой точки график выпуклый вверх
y '' (3,3) = 20*(3,3)^3 - 30*3,3 - 30 = 718,74 - 90,9 - 30 > 0
В окрестностях этой точки график выпуклый вниз