Эта безумная задача решается последовательным упрощением. Например, \sqrt{14+4\sqrt{10}}=\sqrt{14+2\sqrt{40}}=\sqrt{(\sqrt{10}+2)^2}= |\sqrt{10}+2|=\sqrt{10}+2. Взяться за такую задачу можно лишь по очень серьезным причинам - ради пятерки в аттестате, миллиона на счет в швейцарском банке или поцелуя любимой девушки))