Надо производную первого порядка приравнять нулю и найти критические точки функции.
у¹= ( (х-10)²(х-6)-3)¹=2(х-10)(х-6)+(х-10)² *1=3х²-52х+220=0
х₁=10, х₂=22/3 - это критические точки. Определим знаки производной на промежутках.
-------(22/3)--------(10)----------. Знаки располагаются так: +, -, +. Значит х=22/3 -точка максимума,х=10 - точка минимума. Теперь подсчитаем значение самой функции в этих точках, получим максимум и минимум функции.Так как в условии говориться о максимуме только, то вычисляем у(22/3)=(22/3-10)²(22/3-6)-3=(-8/3)²*(4/3)-3=256/9-3=229/9.