=ЕСЛИ(A1<=0;(A1^2)^1/3;ЕСЛИ(И(A1<5;A1>0;);COS(A1);ЕСЛИ(И(A1>=5;(A1+3);0)))))
1) A1^2)^(1/3) - если возводите в степень в виде выражения (1/3) то берите его в скобки, иначе машина возведет в 1-ю степень и потом разделит на 3
2) ЕСЛИ(И(A1<5;A1>0) убрать лишнюю точка с запятой перед закрывающей скобкой
3) ЕСЛИ(И(A1>=5;(A1+3);0 - здесь или пропущено еще одно условие или не нужна функция И, это уже определите сами
4) слишком много закрывающих скобок в конце. их надо считать очень внимательно
На мой взгляд правильная запись будет выглядеть так:
=ЕСЛИ(A1<=0;(A1^2)^(1/3);ЕСЛИ(И(A1<5;A1>0);COS(A1);ЕСЛИ(A1>=5;(A1+3);0)))