Первое упоминание храма как церковь Петра и Павла в Капитанской слободе относится к 1695 году, указывается как новопостроенная, деревянная, строительство которой начали в 1692 году. Строительство каменного храма на месте деревянного началось в 1705 году. Строительство храма шло под руководством архитектора Ивана Зарудного[3][4], однако некоторые авторы считают, что вывод об участии Зарудного в строительстве был сделан только по стилистическим основаниям[2][4]. Строительство велось по личному указу Петра I и по лично им составленным чертежам[3][5]:
...по именному царского величесва указу и по данному ему величества рукою рисунку, велѣно намъ нижеименованонымъ, старостѣ съ приходскими людьми простить церковь за Мясницкими вороты, за Землянымъ городомъ, что въ Капитанской и Ново-Басманной слободѣ, которая и прежде в том мѣстѣ была жъ, во имя св. Ап. Петра и Павла; и оная церковь, по оному отъ его величества рисунку, какъ исподняя, такъ и верхняя построены, а при том несовершенно...[5]
Из донесения Правительствующему Сенату, Москвитин Василий

однако в некоторых источниках эта версия ставится под сомнение[2]. Достоверно известно лишь то, что Петр I пожаловал на строительство храма 2000 рублей.
31 августа 1708 года освятили престол Петра и Павла, который тогда располагался в нижней церкви. В 1714 году начали возводить верхний храм, но работы были прекращены из-за запрета на каменное строительство в Москве. Закончить строительство храма удалось только к 1723 году под руководством архитектора Ивана Мичурина[1][4][6]. Колокольню храма начали строить в 1745 году под руководством Карла Бланка и закончили в 1746 году[1][4][6]. В середине XIX века в нижнем храме располагают престолы Николая Чудотворца и иконы Божией Матери «Утоли Мои Печали», а в верхней Петра и Павла.