В ХVIII веке улица Малая Конюшенная носила название Рождественской, по названию церкви Рождества Богородицы, стоявшей здесь на пересечении с Невским проспектом. В этом районе издавна селились иностранцы, в том числе шведы, здесь обосновалась их община. Об их пребывании до сих пор напоминают: шведская лютеранская евангелическая церковь св.Екатерины (дом №1, часть ее с 1991г. занимает шведское консульство), доходный дом церкви в изысканном стиле «северный модерн» (дом №3, 1905 г., архитектор Лидваль Ф.И.), а также Шведский переулок.

Название Малой Конюшенной эта улица, как и соседняя – Большая Конюшенная, получили от названия Конюшенного Двора, существовавшего здесь, начиная с 1-ой половины ХVIII века. Здесь установлен памятник русскому писателю Н.В.Гоголю (1997г., скульптор Белов М.), а в начале улицы — петербургскому городовому (1998г. скульптор А.С.Чаркин).

Малая Конюшенная – первая улица в Петербурге в 90-х годах, сделанная пешеходной. Сюда на прежнее место возвращена уличная мини метеостанция со встроенными часами и календарем (1913г., автор Н.Е.Лансере). Подойдя к ней, можно узнать час, день, месяц, год, температуру воздуха и атмосферное давление.

В доме №4 – бывшем жилом доме конюшенного ведомства – в 30-е годы был организован писательский кооператив, где в разные годы жили: Форш О.Д., Каверин В.А., Козаков М.И., Житков Б.С., Шишков В.Я., Шварц Е.Л., Слонимский М.Л., Саянов В.М. и др. Жил в этом доме и М.М.Зощенко, квартира которого в 1992г. стала музеем. В доме №16 на углу с Невским проспектом в 1882–1891гг. находилась 1-ая телефонная станция в городе, обслуживавшая 128 абонентов. «Барышни» должны были быть незамужними, чтобы не отвлекаться на семейные проблемы, и обладать нужными физическими данными – высокий рост и определенной длины руки, чтобы без труда производить соединение абонентов.