Строить острог должен был Дубенский, но воевода Дмитрий Тимофеевич Трубецкой из-за отсутствия средств не отпустил [1] Дубенского из Тобольска. Дубенский написал в Москву отписку, и 13 декабря 1626 года царь приказал собрать в Тобольске для Дубенского четыреста казаков под руководством четырёх атаманов. Андрей Дубенский смог собрать в Тобольске и Томске только триста желающих отправиться в новый острог. Атаманами были Иван Астраханцев, Иван Кольцов, Ермолай Остафьев.
Весной 1628 года, после схода льда с Енисея отряд Дубенского вышел из Енисейска на 13 дощаниках и трёх стругах, построенных в Енисейске. Три недели караван шёл до Казачинского порога, и ещё три до места основания Красноярска. Местное население встретило казаков мирно. Князёк племени аринов Татыш привёз казакам черемшу, ревень, молоко и мясо.
Вначале был поставлен лёгкий «городок дощаный», а вокруг него сооружены надолбы из березового леса, который «носили на себе к острожному месту с версту и больши». Рядом с острогом не было подходящего леса, поэтому 160 человек под командой атамана Ивана Кольцова отправились вверх по Енисею, где 2 недели заготавливали лес. 1200 больших брёвен сосны и берёзы волокли из леса примерно одну версту, а потом сплавили по Енисею. Из заготовленного леса построили острог, башни и казённые строения.
Малый острог возвели к 18 августа 1628 года, этот день считается днём основания Красноярска.
Для строительства зимовий требовался дополнительный лес, поэтому на его заготовку отправился отряд в 180 человек под руководством Ермака Евстафьева. В найденном сосновом бору было срублено 1800 сосновых деревьев, из которых построили зимовья.
В первые годы существования острога его называли «Красным» или «Новым Качинским острогом». Позднее острог получил имя Красный Яр, от названия холма рядом с местом постройки, который местные племена назвали «Кызыл Джар», то есть «Красный Холм» (ныне Караульная гора).
Первым воеводой острога был назначен Архип Фёдорович Акинфов.