Храм был посвящен новому на Руси празднику - Покрова Богородицы. Этот праздник был установлен владимирским духовенством и князем без согласия киевского митрополита и константинопольского патриарха и призван был свидетельствовать об особом покровительстве Богородицы Владимирской земле. Ведь главный храм Владимира, Успенский собор, также был посвящен Богоматери - в отличие от соборов Киева, Новгорода, Полоцка, Пскова и других княжеских столиц.
Место для церкви - пойменный луг при впадении Нерли в Клязьму - указал сам князь Андрей Боголюбский. Так как здесь каждую весну разливалось широкое половодье, специально под храм было сооружено высокое основание - искусственный холм из глины и булыжного камня, в котором были заложены фундаменты будущей постройки. Снаружи этот холм был облицован белокаменными плитами. Когда весной разливается Нерль, церковь остается на небольшом островке, отражаясь в быстротекущих водах, подступающих прямо к ее стенам. Когда-то здесь была пристань, где причаливали шедшие по Клязьме речные суда.
Церковь Покрова-на-Нерли служила не только символом княжеского всесилия, но и своеобразным памятником погибшим войнам. По легенде именно на месте будущей церкви местные жители прощались с владимирскими полками, корабли которых отправялись на войну с волжскими болгарами. Победа была одержана войском князя Андрея в 1164г. , но в этом бою погиб сын князя, Изяслав, и в память о нем и всех погибших войнах была построена церковь на реке Нерль.