В середине 30-х годов Гоголь услышал анекдот о чиновнике, потерявшем ружье. Он звучал так: жил один бедный чиновник, был страстным охотником. Он долго копил на ружье, о котором долго мечтал. Его мечта сбылась, но, плывя по Финскому заливу, он его потерял. Вернувшись домой, чиновник от расстройства умер.
Первый набросок повести был назван «Повесть о чиновнике, крадущем шинели».