Самуил Маршак родился 3 ноября 1887 года в Воронеже в слободе Чижовка[4], в еврейской семье. Его отец, Яков Миронович Маршак (1855—1924), работал мастером на мыловаренном заводе; мать — Евгения Борисовна Гительсон — была домохозяйкой. Фамилия «Маршак» является сокращением, (ивр. מהרש"ק) означающим «Наш учитель рабби Аарон Шмуэль Кайдановер» и принадлежит потомкам этого известного раввина и талмудиста (1624—1676)[5].
Раннее детство и школьные годы Самуил провёл в городке Острогожске под Воронежем. Учился в 1899—1906 годах в Острогожской, 3-й Петербургской и Ялтинской гимназиях. В гимназии учитель словесности привил любовь к классической поэзии, поощрял первые литературные опыты будущего поэта и считал его вундеркиндом.
Одна из поэтических тетрадей Маршака попала в руки В. В. Стасова, известного русского критика и искусствоведа, который принял горячее участие в судьбе юноши. С помощью Стасова Самуил переезжает в Петербург и учится в одной из лучших гимназий. Целые дни проводит он в публичной библиотеке, где работал Стасов.
В 1904 году в доме Стасова Маршак познакомился с Максимом Горьким, который отнёсся к нему с большим интересом и пригласил его на свою дачу в Ялте, где Маршак жил в 1904—1906 годах. Печататься начал в 1907 году, опубликовав сборник «Сиониды», посвящённый еврейской тематике; одно из стихотворений было написано на смерть Теодора Герцля. Тогда же он перевёл несколько стихотворений Хаима Нахмана Бялика с идиша и иврита.
Когда семья Горького вынуждена была покинуть Крым из-за репрессий царского правительства после революции 1905 года, Маршак вернулся в Петербург, куда к тому времени перебрался его отец, работавший на заводе за Невской заставой.