Обозначим сторону маленького квадрата за х. Тогда площадь основания коробки будет равна S=(a-2x)^2, а объем коробки будет равен V=(a-2x)^2*x=a^2*x-4*a*x^2+4*x^3.
Для нахождения максимума объема продифференцируем эту функцию по x, получим 12*x^2-8*a*x+a^2. Приравняем производную нулю и решим полученное уравнение относительно x:
x1,2=(8a+/-sqrt(64a^2-48a^2))/24=(8a+/-4a)/24
x1=1/6*a
x2=1/2*a
Очевидно, что при x=1/2*объем коробки равен 0, и равенство производной нулю в этой точке указывает на минимум функции объема (при изменении х от 0 до 1/2*a)..
А x=1/6*a является точкой максимума функции объема.
Ответ: сторона вырезаемого по углам квадрата должна быть равна 1/6 части стороны исходного квадрата.