Высота в холке крупных самцов мамонта была около 3 метров, а вес не превышал 5—6 тонн. Самки были заметно мельче самцов. Высокая холка делала силуэт зверя несколько горбатым.
Всё тело мамонта покрывала густая шерсть. Длина шерсти у взрослого зверя на плечах, бёдрах и боках достигала почти метра, получался длинный подвес, который как юбка прикрывал брюхо и верхнюю часть конечностей. Густой, плотный подшёрсток, прикрытый жёсткими остевыми волосами, надёжно защищал животное от холода. Цвет шерсти менялся от бурой, местами почти чёрной, до жёлто-коричневой и рыжеватой. Детёныши были окрашены несколько светлее, с преобладанием жёлто-коричневых и рыжеватых тонов. Величина мамонта была примерно такой же, как у современных слонов, но густая и длинная шерсть делала его фигуру более внушительной.
Голова мамонта была массивной, макушка вытянута вверх, на темени её венчала «шапка» жёстких чёрных волос. Покрытые мехом уши были небольшие, меньше, чем у индийского слона. Хвост короткий, с кистью длинных очень жёстких и толстых чёрных волос на конце. Защитой от холода, кроме маленьких ушей и густого подшёрстка был, по мнению академика В. В. Заленского, и анальный клапан — складка кожи под хвостом, прикрывающая анальное отверстие. Из кожных желёз у мамонта были открыты сальные железы кожи и заглазничная железа, секретом которой современные слоны метят территорию в период размножения.
Облик мамонта дополняли огромные бивни, имевшие своеобразную спиральную изогнутость. При выходе из челюсти они были направлены вниз и несколько в стороны, а концы их загибались внутрь, навстречу друг другу. С возрастом изогнутость бивней, особенно у самцов, увеличивалась, так что у очень старых зверей концы их почти смыкались или перекрещивались. Бивни крупных самцов достигали длины 4 м, а их вес доходил до 110 кг. У самок бивни были менее изогнуты и более тонкие в основании. Бивни мамонтов с юного возраста имеют зоны стирания, свидетельствующие об их интенсивном использовании. Они расположены иначе, чем у современных слонов, с наружной стороны бивней. Высказываются предположения, что с помощью бивней мамонты разгребали снег и выкапывали из-под него пищу, сдирали кору с деревьев, а в бесснежное холодное время выламывали куски льда для утоления жажды.
Для перетирания пищи с каждой стороны верхней и нижней челюстей одновременно мамонт имел только по одному, но очень крупному зубу. Смена зубов происходила в горизонтальном направлении, задний зуб двигался вперёд и выталкивал истёртый передний, который представлял собой небольшой остаток из 2—3 эмалевых пластин. В течение жизни животного в каждой половине челюсти последовательно сменялось 6 зубов, из которых три первых считались молочными, а три последних — постоянными, коренными. Когда последний из них полностью стирался, зверь терял способность кормится и погибал.