Замок Тоолсе Вируского уезда считается одним из последних замков Ливонского ордена. Географически он считается самым северным замком Эстонии. Замок основали на берегу моря в 4 км от города Кунда по распоряжению магистра Ливонского ордена в 1471 году, и назвали Фредебургом ("Мирный замок").
К 1473 году здесь выросли мощные укрепления для защиты гавани, в том числе и от пиратов, поскольку здесь был заложен один из важнейших портов Ливонского ордена. Отсюда и своеобразное положение крепости практически в море, на самой оконечности узкого полуострова.
В Толсбургском замке во время следующей, шведско-польской войны 1618 года, был подписан один из временных договоров о перемирии, известный как "Толсбургское перемирие".
В 1653 году, по распоряжению шведской королевы Кристины замок стал принадлежать роду Врангелей, но 1685 году замок был отобран у Врангелей.
Замок окончательно был разрушен в течение Большой Северной войны в начале 18 века, но до сих пор производит величественное впечатление.