Горы Кавказа расположены на перешейке между Каспийским и Черным морями. От Восточно-Европейской равнины Кавказ отделяет Кумо-Манычская впадина. Территорию Кавказа можно разделить на несколько частей: Предкавказье, Большой Кавказ и Закавказье. На территории Российской Федерации располагаются лишь Предкавказье и северная часть Большого Кавказа. Последние две части вместе называют Северным Кавказом. Однако для России эта часть территории является самой южной. Здесь, по гребню Главного хребта, проходит государственная граница Российской Федерации, за которой лежат Грузия и Азербайджан. Вся система Кавказского хребта занимает площадь, приблизительно, в 2600 м2, причем северный склон его занимает около 1450 м2, в то время как южный всего около 1150 м2.

Северо-Кавказские горы сравнительно молоды. Рельеф их создавался разными тектоническими структурами. В южной части расположились складчато-глыбовые горы и предгорья Большого Кавказа. Они образовались при заполнении зон глубокого прогиба осадочными и вулканическими породами, которые позднее подверглись складчатости. Тектонические процессы здесь сопровождались значительными изгибами, растяжениями, разрывами и разломами земных пластов. В результате этого на поверхность выливалось большое количество магмы (это привело к образованию значительных рудных месторождений).
Поднятия, происходившие здесь в неогеновый и четвертичный периоды, привели к возвышению поверхности и тому виду рельефа, который существует в наши дни. Подъём центральной части Большого Кавказа сопровождался опусканием пластов по краям образующегося хребта. Так на востоке образовался Терско-Каспийский прогиб, а на западе Индало-Кубанский.
Зачастую Большой Кавказ представляют как единственный хребет. На самом деле это целая система различных хребтов, которую можно разделить на несколько частей.
Западный Кавказ располагается от Черноморского побережья до горы Эльбрус, далее (от Эльбруса до Казбека) следует Центральный Кавказ, а к востоку от Казбека до Каспийского моря – Восточный Кавказ. Кроме того, в продольном направлении можно выделить два хребта: Водораздельный (иногда его называют главным) и Боковой.
На северном склоне Кавказа выделяют Скалистый и Пастбищный хребты, а также Чёрные горы. Они образовались в результате переслаивания пластов, сложенных из разных по твёрдости осадочных пород. Один склон гряды здесь пологий, а другой обрывается довольно резко. По мере удаления от осевой зоны высота горных хребтов уменьшается.
Цепь Западного Кавказа начинается у таманского полуострова. В самом начале это скорее даже не горы, а холмы. Повышаться они начинают к востоку. Самые высокие части Северного Кавказа покрыты снежными шапками и ледниками. Высочайшие вершины западного Кавказа – горы Фишт (2870 метров) и Оштен (2810 метров).
Наиболее высокой частью горной системы Большого Кавказаявляется Центральный Кавказ. Даже некоторые перевалы в этой точке достигают высоты 3 тысяч метров, а самый низкий из них (Крестовый) лежит на высоте 2380 метров. Здесь же находятся самые высокие вершины Кавказа. Так, например, высота горы Казбек составляет 5033 метра, а двуглавый потухший вулкан Эльбрус и вовсе является самой высокой вершиной России. Рельеф здесь сильно расчленён: преобладают острые гребни, крутые склоны и скалистые вершины.
Восточную часть Большого Кавказа составляют главным образом многочисленные хребты Дагестана (в переводе название этого региона означает «горная страна»). Здесь располагаются сложные ветвящиеся хребты с крутыми склонами и глубокими каньонообразными речнымидолинами. Однако высота вершин тут меньше, чем в центральной части горной системы но всё же они превышают высоту 4 тысячи метров.
Поднятие Кавказских горпродолжается и в наше время. С этим связаны довольно частые землетрясения в этом регионе России. К северу от Центрального Кавказа, там, где поднимавшаяся по трещинам магма не вылилась на поверхность, образовались невысокие, так называемые, островные горы. Наиболее крупными из них являются Бештау (1400 метров) и Машук (993 метра). У их основания расположены многочисленные источники минеральных вод.