Храмовая гора является самым святым для евреев местом: религиозные евреи всего мира во время молитв обращаются лицом к Израилю, евреи в Израиле — к Иерусалиму, а евреи в Иерусалиме — к Храмовой горе.
Храмовая гора традиционно отождествляется с горой Мория, местом, указанным Аврааму Богом для принесения в жертву Исаака. На Храмовой горе царь Давид выкупил гумно у некоего Аравны (Орны) — иевусея и воздвиг жертвенник Богу Израиля, а его сын и наследник престола Соломон построил Храм (так называемый Первый храм), который был разрушен Навуходоносором в 586 г. до н. э. и отстроен заново (так называемый Второй храм) через 70 лет (516 г. до н. э.).
В 70 г. н. э., при штурме Иерусалима, римская армия с боем захватила Храмовую гору и предала Храм огню. Несколько позже Храм был почти полностью разрушен. После подавления Римом еврейского восстания 115–117 гг., на всех евреев империи обрушились кровавые репрессии, а на Храмовой горе было построено святилище Афродиты. В 132 г., во время восстания Бар-Кохбы, по ряду косвенных данных, еврейские повстанцы частично восстановили иудейский Храм и некоторое время проводили богослужения. После подавления восстания все следы еврейского присутствия на Храмовой горе были уничтожены римлянами, где они построили святилище Юпитера Капитолийского. В первой половине IV в., в результате победы христианства в Римской империи, языческие святилища на Храмовой горе пришли в запустение и, очевидно, были разрушены. в южной части Храмовой горы была построена небольшая церковь святой Марии. В 362 г. римский император Юлиан Отступник обещал евреям восстановить Храм, были даже начаты строительные работы. Однако вскоре Юлиан погиб, стройку охватил «случайный» пожар, а вернувшиеся к власти христиане денонсировали все договоры императора.
Весь дальнейший период римско-византийского правления Храмовая гора оставалась в запустении, имперские власти не допускали какой-либо деятельности в этом месте (кроме оборудования городской свалки). Тем не менее, евреи в течение всего римско-византийского периода как легально, так и нелегально, восходили на Храмовую гору для молитвы. Обращенная к западу часть подпорной стены — Западная стена («Стена плача») — с V в. превратилась в традиционное место молитвы евреев.
Согласно обещаниям еврейских пророков, после прихода Мессии на Храмовой горе будет отстроен последний, Третий Храм, который станет духовным центром для еврейского народа и всего человечества. Также с Храмовой горой связано ожидание Страшного Суда.
В 638 г. арабский завоеватель Иерусалима халиф Омар ибн-ал-Хаттаб провозгласил святость для ислама Храмовой горы, так как, по его мнению, она и есть та гора, которая упоминается в 17 суре Корана «ал-Мирадж» (сейчас эта сура цитируется на изразцах Купола Скалы). Мусульмане считают Храмовую гору своей третьей святыней после Мекки и Медины.
С Храмовой горой связан целый рад традиций, признаваемых всеми тремя основными религиями и делающих это место столь святым. Прежде всего, это великолепное святилище Куббат ас-Сахра (Кипат асела, Купол Скалы), внутри которой находится так называемый Краеугольный камень. Там же на Храмовой горе находятся одна из важнейших мусульманских мечетей Аль-Акса, ряд строений различных мусульманских периодов и небольшой Музей исламской культуры.
В периоды мамелюкского, османского и британского правления Палестиной, евреи на Храмовую гору не допускались. Британская мандатная администрация ввела специальный орган по попечительству над святыми местами ислама на Храмовой горе — ВАКФ, так называемый Исламский совет, который получил фактическую власть над всей территорией Храмовой горы. По окончании Войны за независимость Израиля в 1948 году, Храмовая гора вместе со всем Восточным Иерусалимом перешла под контроль Иордании. До 1967 года евреи не допускались не только на Храмовую гору, но и к Стене Плача, что являлось грубым нарушением соглашения о прекращении огня. Во время Шестидневной войны, в ходе боёв за Иерусалим, израильские десантники установили контроль и над Храмовой горой, установив над ней израильский флаг, и командующий операцией, Мота Гур, объявил по армейской радиосвязи: «Храмовая гора в наших руках!». Однако вскоре, по приказу министра обороны Моше Даяна, флаг был спущен, и полномочия ВАКФа вновь были официально подтверждены.