Свой дом рязанский приход обрел в 1843 году. В этот год производитель зеркал Карл Хенеке передал в пользование Рязанской лютеранской общине флигель одного из своих домов постройки двадцатых годов XIX века, расположенный на Абрамовской улице. Средства для переоборудования флигеля под храм поступили от гастролировавших в Рязани немецких артистов, давших по этому поводу два благотворительных концерта. Позже в 1861 году тогдашняя официальная владелица флигеля Амалия Хенеке подарила постройку приходу.

После ремонта здание окончательно приобрело традиционные для немецкой архитектуры готические черты и, несомненно, украсило собой район Немецкой слободы. Постройка выходила своим главным торцевым фасадом на красную линию улицы. По бокам от её центрального проёма были устроены стрельчатые ниши. Фасад эффектно завершался высоким аттиком, украшенным аркатурным поясом.
В 1904 году приход насчитывал 615 прихожан, преимущественно немецкой национальности, с незначительным числом эстонцев и латышей. После революции новая власть упразднила Тамбовско-Рязанский евангелическо-лютеранский приход, национализировав его собственность. Точной даты роспуска общины в исторических документах не зафиксировано, но, видимо, это событие произошло в 1935 году. есколько позже в Мариинской лютеранской церкви разместили магазин «Пчеловодство». В конце девяностых годов XXвека здание кирхи было передано местной церкви евангельских христиан-баптистов.
Осень 2004 года стала временем воссоздания Евангелическо-Лютеранского прихода Святой Марии в Рязани.