唐高宗仪凤二年(公元677年)六祖惠能驻锡曹溪，开创南宗顿悟法门。此后六祖嗣法弟子又相继开创出临济、沩仰、曹洞、法眼、云门五宗，与临济门下衍出之杨歧、黄龙两派，合称“一花五叶七枝”。法海将六祖之说法整理而成《六祖坛经》，成为国人佛教著作中唯一被奉为“经典”的文献。南华禅寺也因此被尊奉为“禅宗祖庭”。

万岁通天元年(公元696年)，女皇武则天赐六祖“千佛袈装，水晶钵盂。”中宗神龙元年(公元705年)，将“宝林寺”改为“中兴寺”，越三年赐号“法泉寺”。

 宋初，南汉残兵为患，寺半毁于火。宋太祖开宝元年(公元968年)重修全寺，赐名“南华禅寺”。元末，寺院三次遭受兵燹，僧众日散。至明朝万历二十八年(公元1600年)，高僧憨山禅师大力中兴，寺风日盛。

清康熙七年(公元1688年)，平南王尚可喜将全寺重建修饰，清末至民国初年，寺又趋败落。民国二十二年(1933年)春，广东省主席李汉魂将军礼请中国近代高僧、禅宗泰门虚云老和尚修建南华禅寺。云公至寺后，将原来的四合院平面布局移位重建，改为今之中轴线平面布局，历时+ 年，方告竣工。

建国后，人民政府十分重视对南华禅寺文物古迹的保护，并于1962年将其列为广东省文物保护单位。


1982年人民政府落实宗教信仰自由政策。惟因老和尚受请为南华禅寺方丈后，重振宗风，开办全省第一所僧伽培训班，培育僧材。


1999年，传正法师接任方丈后，对寺院内外规划重修，复办曹溪佛学院，延续法脉；重修和扩建六祖讲堂、万佛塔等佛教设施。立下恢复盛唐时期“大南华”的弘愿。目前，“大南华”已被广东省“十一五”列入重点规划项目。

农历八月初三是六祖惠能大师圆寂纪念日，与六祖诞辰二月初八一起在民间被称为“六祖诞”。每年当日南华禅寺都要举行纪念法会，从唐朝以来已延续一千余年。

 主要建筑有：中路的曹溪门、放生池、五香亭、宝环门、天王殿、大雄宝殿、法堂、灵照塔、六祖殿、方丈室。左侧依次是虚怀楼、报恩堂、钟楼、伽蓝楼、客堂、待贤楼、香积厨、斋堂、回向堂、回光堂、延寿堂、念佛堂、东贤殿。右侧依次为云海楼、西归堂、鼓楼、祖师殿、云水堂、韦驮殿、维那寮、班首寮、如意寮、禅堂、观音堂、西贤殿。寺东有无尽庵、海会塔，寺后有飞锡桥、伏虎亭、卓锡泉。

中路的曹溪门、放生池、五香亭、宝环门、天王殿、大雄宝殿、法堂、灵照塔、六祖殿、方丈室。

天监三年，寺庙建成，梁武帝赐“宝林寺”名。后又先后更名为“中兴寺”“法泉寺”，至宋开宝元年（公元968年），宋太祖敕赐“南华禅寺”，寺名乃沿袭至今。因禅宗六祖在此弘法，也称六祖道场。 南华寺建筑面积一万二千多平方米，由曹溪门、放生池、宝林门、天王殿、大雄宝殿、藏经阁、灵照塔、六祖殿等建筑群组成。建筑除灵照塔、六祖殿外，都是1934年后虚云和尚募化重修的。

1983年，南华寺最早一批被国务院定为汉族地区佛教全国重点寺院。