Понял в чем моя ошибка, я косинус не сразу перевел в число, а тоже выразил через производную. Но! В ответе, ни у меня ни у Вас не совпадает :( в ответе - (5+3sqr(3))/6. У меня совпадает с ответом, но лишние пи/6 остается. Вот и не пойму, в чем дело...