На берегу малые пингвины селятся в расщелинах на склонах. Живут они парами, длительно сохраняющими верность друг другу, иногда и на всю жизнь. Однако охотятся самец и самка обычно независимо друг от друга. На австралийском острове Филлип-Айленд в 150 км от Мельбурна они облюбовали плотный песчаный склон, заросший небольшим кустарником, в котором роют свои норы на удалении 200—500 метров от берега (на этом острове сооружены специальные трибуны и настилы, приподнятые на 1—1,5 м над землёй, позволяющие наблюдать так называемый «парад пингвинов» — когда они после заката солнца выходят из моря, формируют группы по 10-40 штук и весьма быстро «маршируют» вверх по склону, а затем отыскивают свои норы, при этом довольно громко и сравнительно мелодично перекрикиваясь друг с другом и со своими птенцами).