В городе Стокгольме живет самая обыкновенная шведская семья Свантесон, состоящая из пяти человек – папы, мамы и трех ребят: Боссе, Бетан и Сванте (которого все называют Малышом). Малыш – самый обыкновенный семилетний мальчик, но жизнь его сильно меняется после знакомства с необыкновенным существом по имени Карлсон.
Этот маленький, толстенький, самоуверенный человечек в первый же день демонстрирует Малышу свои навыки по запусканию паровых машин, при этом участь, постигшая новенькую машину Малыша (а она взорвалась на мелкие осколки), его совершенно не волнует. «Пустяки, дело житейское!», — говорит Карлсон, и обещает Малышу новую машину взамен испорченной.
Мальчик, восхищенный своим новым другом, рассказывает о нем родителям, но наталкивается на непонимание и недоверие. Конечно же, взрослые уверены, что друг Малыша не настоящий, а только воображаемый (ведь иногда детям свойственно придумывать себе несуществующих товарищей и сваливать на них вину за свои проделки). Но для Малыша все это не важно, ведь теперь у него есть друг, с которым можно веселиться, проказничать и играть (ведь Карлсон – лучший в мире во всем, в том числе и по играм), и за это ему можно простить все капризы и эгоистичные поступки.
Вместе они посещают маленький домик, в котором живет Карлсон, а потом отправляются на прогулку по крыше, во время которой энергичный толстячок умудряется не только успокоить плачущего ребенка, но и спасти приезжего деревенского парня от двух жуликов, Филле и Рулле. Кстати, нашим героям предстоит еще не раз встретиться с этими ворами, и из каждого противостояния Карлсон выходит победителем.
После нескольких невероятных приключений, пережитых двумя друзьями, маленьким мальчиком и «мужчиной в самом расцвете сил», Малыш окончательно привязывается к Карлсону. Одним из счастливейших дней в жизни Малыша становится его День Рождения, когда родители дарят ему собаку Бимбо и наконец знакомятся с таинственным Карлсоном.
После того, как Малыш отказывается от путешествия на пароходе, не в силах расстаться с Карлсоном на целых две недели, в дом Свантесонов приезжают фрекен Бок («домомучительница» Малыша) и дядя Юлиус. Малыш не в восторге от случившегося, но ради того, чтобы продолжать играть с Карлсоном, он готов на любые жертвы.
Карлсон же горит желанием познакомиться с гостями Свантесонов, и, само собой, не упускает случая немного пошалить: выводит из себя фрекен Бок и дает в честь приезда дяди Юлиуса громкий «салют» (в виде выстрела из пистолета), после чего несчастный пожилой господин падает в обморок. Конечно, этими выходками Карлсон настраивает их против себя, но после того, как самый лучший в мире укротитель жуликов ловит воров Филле и Рулле и невольно провоцирует развитие романтических отношений дяди Юлиуса и фрекен Бок, он приобретает в их глазах статус чуть ли не героя.
Повествование обрывается на самом, казалось бы, интересном месте, тем самым давая волю фантазии читателя. Ведь на этом приключения Малыша и Карлсона, вне сомнения, не заканчиваются.