李白于唐肃宗上元二年(761)腊月，贫病交加，由金陵(南京)第七次游当涂，投访本家叔父当涂县令李阳冰，不久病重，次年(762)“因腐胁疾”(脓胸穿孔)不治而卒。病重时，将诗稿交李阳冰，请他编集作序。其遗体先葬龙山东麓，与青山隔河相望。青山又称谢家青山，为南朝诗人谢朓常游之地，故又名谢公山。青山南麓有谢朓任宣城太守时建造的故宅。李白仰慕谢朓，酷爱其诗，游青山常访谢公宅，有诗曰：“青山日将瞑，寂寞谢公宅”。李白死后五十八年(820)，其好友范作之子范传正为宣歙观察使，访得李白两个孙女(当时已嫁当地农家)，她们说：“先祖志在青山，殡于龙山东麓，地近而非本意”。于是他同当涂县令诸葛纵将李白墓迁葬于青山西麓的今址。

     李白墓通体用青石砌成，2米高的古碑上刻“唐名贤李太白之墓”。有老人守墓，据云当地村民对李白非常爱护，每年清明节前一天都要来祭扫。

   历代诗人景仰李白，白居易、贾岛、杜荀鹤……直到清代的刘大槐、姚鼐，都曾在这里流连。唐诗人贾岛千里迢迢来此，不幸客死当涂，葬于当涂李白墓相去不远处。

    李白墓前有享堂，即“太白祠”，唐宪宗元和十二年(817)所建，1938年毁于日军的炮火。1979年重建。“太白祠”匾额为书法家林散之手笔。祠堂中央有李白晚年塑像。四壁镶嵌了十来块碑刻，其中有李白的《临终歌》：“大鹏飞兮振八裔，中天摧兮力不济。余风激兮万世，游扶桑兮挂石袂。后人得之传此，仲尼亡兮谁为出涕?”此外还有历代文士所作墓志诗文画像的石刻，如唐元和年间主持迁葬的范传正所撰刻的墓志铭石碑，即是祠中最珍贵的碑刻。原碑刻1938年毁于日军炮火，此为1979年按拓本复制。墓与祠之间有石桥、莲塘、荷花碧水，与“十咏亭”相映成趣，使人仿佛感到诗仙犹在人间。