Основан в начале XVIII века. Первое упоминание относится к 1708 в связи с нападением на Пензенский край казаков-булавинцев и калмыков: они «Чембар разоряют и верхнеломовцев мучают и жгут огнем и в воду сажают». До 1780 называлось с. Никольское.
В 1780 году преобразован в уездный город Чембар Чембарского уезда Пензенского наместничества, в 1798 был упразднён, с 1801 — вновь уездный город Пензенской губернии. Памятными событиями в жизни горожан стали посещение Чембара императором Александром I и Николаем I.