南山寺位于港南区南山风景区内，北宋端拱二年（989年）　，善智和尚在狮头山岩洞开山建寺。

北宋至道三年（公元997年），太宗崩，宋真宗即位，“以太宗墨迹赐天下名山”，南山寺获赐太宗御书224轴，建御书阁安奉。景祐元年（1034年），宋仁宗大力整顿寺宇，下令“毁天下无额赐寺院”的同时，仁宗皇帝亲书“景祐禅寺”匾额赐给南山寺，故又名景祐禅寺。元代皇室图帖睦尔亲王贬居海南岛，南迁北返途中，均在南山寺停留，在北归前留题“南山寺”三个汉字赐给寺僧，五年后（1328年），图帖睦尔登基即位，是为元文宗。1329年，州官周天祥将文宗皇帝题额的“南山寺”临摹并加跋文刻石，史称南山寺“御书碑”，立于石佛洞北壁地面上。　

南山寺历代的主要建筑有寺门、八角亭、石门、通堂、菩提阁（即东楼）、半山亭和舍利塔、登山石级等。御书阁（即西楼）毁于元末战火，半山亭于“文化大革命”时被捣毁。　

南山寺是西江沿岸的重要佛地。礼佛的地方主要有金刚殿、寺洞大殿、观音岩三处。金刚殿位于寺门后的八角亭内，原供奉四大金刚，寺洞大殿在南山主洞内，可容千人，供奉如来、三宝诸佛，观音岩在大殿西边，供奉观音菩萨，十八罗汉等。　

南山寺的历史文物主要有古石佛，宋、明铁钟，御书碑，菩提树，舍利塔以及历代摩崖石刻等。　

1963年，广西壮族自治区人民委员会公布南山寺石刻（含宋代大铁钟）为自治区级文物保护单位。1985年，贵县人民政府公布，南山寺为县级重点文物保护单位。2009年，南山寺列入贵港市第一批重点文物保护单位。