Історія ікони Смоленської Божої Матері, як і багатьох інших доленосних для Росії чудотворних образів, овіяне легендами. Первообраз святині, з яким часто ототожнюють Смоленську Одигитрию, було написано самим апостолом Лукою для антиохійського правителя Феофіла. Після її смерті образ Богородицы-Путеводительницы повернулося на Єрусалим, звідки у XXI столітті цариця Євдокія, дружина імператора Феодосія, перенесла їх у Царгород, у Влахернский храм.
Є легенди, що у 1046 року грецький імператор Костянтин IХ Мономах благословив цієї іконою свою дочка Ганну, видаючи її заміж за чернігівського князя Всеволода Ярославовича, сина Ярослав Мудрий. Проте, саму себе свідчить той історичний факт, що царьградская святиня, під час облоги Константинополя в 1453 р. яка була в монастирі Хора, знищили турками, ділили її дорогоцінний оклад [1][1]. Тому правильніше вважати привезену на Русь ікону шанованим списком зі стародавнього константинопольського образу, який став на Росії великої чудотворною іконою. Після смерті князя Всеволода ікона перейшла для її синові Володимиру Мономаху, що перенесла їх у початку ХII століття Смоленську соборну церкву у честь Успіння Пресвятої Богородиці. З на той час ікона отримав назву Одигитрия Смоленська.
У 1237 року, під час навали Батия, Смоленська ікона Божої Матері явила велике диво для відсічі татаро-монгольської війська від стін Смоленська. Татари стояли вже у кількох верст міста, коли благочестивий воїн під назвою Меркурій почув який з святої ікони глас, повелевавший лише їм ввірватися в ворожий стан і обіцяв небесне заступництво. Дотримуючись велінням Божу, самовідданий воїн вночі проникнув у стан Батия і перебив безліч ворогів, ухваливши битві мученицьку смерть. Меркурій був поховано у соборну церкву і майже відразу приєднаний до лику святих. Пам'ять святого відбувається 24 листопада, коли це сталося подія. Раніше у вона перед чудотворним чином Одигитрии відбувалося особливе подячний молебень.
Наприкінці чотирнадцятого ікона Одигитрии віддали до Москви і поставлено Благовєщенському соборі Кремля праворуч від царських воріт. Однією з версій причину перенесення образу є одруження великого князя Московського Василя Дмитровича з дочкою литовського князя Вітовта Софії, якої ця ікона випала ролі посагу. У 1456 року єпископ Смоленський Михайло у супроводі намісника міста прибув Москву і Московського великого князя Василя Темного відпустити ікону на свій історичний місто. Порадившись з єпископами і боярами, великий князь Василь Васильович повелів повернути чудотворну ікону в Смоленськ, залишивши у Москві дома перебування образу його точний список. У 1525 року у пам'ять про катастрофу великий князь Василь III заснував у тому самому місці, де москвичі проводжали ікону, Новодівичий монастир з храмом на вшанування Смоленської Божої Матері, що й помістив список з Благовєщенського собору.
Чудотворний образ знову побував на Москві 1611 року, коли Смоленськ захопили поляками, а, по взяття ворогом столиці та до вигнання від росіян меж певний час в Ярославлі. Невдовзі опісля повернення Смоленська російському державі, 26 вересня 1655 року, чудотворна ікона Одигитрии урочисто повернулося у своє місто. У важкий час Великої Вітчизняної війни 1812 року, щодня Бородінської битви, чудотворний образ Смоленської Божої Матері, разом Иверской і Володимирської іконами хрещеним ходом обносили навколо Москви. Тут слід зазначити на особливе заступництво Смоленської Богородиці саме західним меж нашої країни, звідки йшла польська і французька експансія, аналогічно як північні його межі перебувають під захистом образу Знамения Новгородського, а східні – Казанської Божої Матері.