Первое поселение на месте современного города возникло в VI веке до н. э.. В 377 до н. э. город (под названием Анурадха) становится столицей первого сингальского королевства на острове. В XI веке н. э. город был разрушен захватившими остров правителями южноиндийского тамильского государства Чола; впоследствии столица сингальского государства была перенесена в Полоннаруву.
В старом городе Анурадхапуры и в окрестностях сохранились многочисленные памятники древности (внесены в список всемирного культурного наследия ЮНЕСКО) - колоколообразные ступы (дагобы) III-I века до н. э. с каменными статуями Будды, скальный монастырь, дворцы, искусственные водоёмы.
Местом паломничества буддистов является дерево Махабодхи и храм вокруг него. Выращенное из ветви священного дерева Бодхи, находившегося в индийском городе Бодхгая, под которым, согласно легенде, Будда нашёл просветление, дерево Махабодхи является древнейшим из существующих деревьев с документированной историей. Позднее священное дерево Махабодхи в Бодхгае несколько раз погибало, но на его месте высаживалось новое дерево из семян дерева в Анурадхапуре.
В XIX веке основной ствол дерева в Анурадхапуре был вырублен английским фанатиком, однако остался малый ствол, который сейчас почитается и придерживается золотыми подпорками.
За деревом Махабодхи находится охраняемая археологическая зона, в которой находятся многочисленные ступы и остатки памятников древности с IV века до н. э., в частности, буддийских монастырей. Имеется также археологический музей, в котором собраны наиболее ценные скульптуры.