Герасим с детства жил в деревне. Он был крепостным крестьянином. Это был мужчина двенадцати вершков роста, сложен богатырём и глухонемой от рождения. Одарённый необычайной силой, Герасим работал за четверых. Любое дело спорилось в его руках. Но Герасима привезли в Москву, купили ему сапоги, сшили кафтан и тулуп, дали в руки метлу и определили дворником.
Переселённый в город, он не понимал, что с ним происходит и скучал, потому что с детства привык к полевым работам и деревенскому быту. Но и в городе он усердно и исправно выполнял свои обязанности. Никогда у него ни щепок не валялось, ни сору. А после того, как он однажды ночью поймал двух воров, его все стали очень уважать.
Со всей остальной челядью он был в коротких отношениях: считал их за своих. Вообще Герасим был нрава строгого и серьёзного, знал свои права и любил во всём порядок; даже петухи при нём не смели драться. Ходил за гусями, кормил их и сам смахивал на степенного гусака. Жил Герасим в коморке над кухней. Он устроил её по своему вкусу и не любил, чтобы к нему ходили.
Однажды, когда Герасим шёл вдоль реки, он вдруг заметил, что что-то барахтается в тине у самого берега, нагнулся и увидел небольшого щенка, белого с чёрными пятнами. Щенок дрожал всем своим телом. Герасим забрал несчастную собачку к себе в каморку. Он уложил её на кровати, напоил, накормил и оставил жить у себя. Назвал он собачку Муму. Герасим её любил без памяти. Ни одна мать так не ухаживает за своим ребёнком, как ухаживал Герасим за Муму. Она выросла в очень ладную собачку испанской породы. Муму страстно привязалась к Герасиму, всё ходила за ним, повиливая хвостиком. Она была чрезвычайно умна, со всеми ласкова, но любила одного Герасима.
Прошёл год, Герасим был очень счастлив.
Но однажды барыня увидела Муму, велела принести её к себе в комнату. Муму испугалась барыню и её приживалок и зарычала. Барыне это не понравилось и она приказала убрать её со двора. Сначала собаку втайне от Герасима продали, а когда она вернулась к своему хозяину, барыня приказала Гавриле убить её.
Как человек крепостной и подневольный, Герасим выполнил это приказание. Но после того, как он утопил бедную Муму, он прибежал в свою каморку, уложил пожитки в старую попону и вернулся в деревню в свою избёнку. Жить в городе и служить барыне он больше не смог.