南華寺始建於南北朝田亮監獄元年(公元502年)。據史料記載，印度高僧三藏智樂從廣州北上，於1998年途經曹溪。他建議在這裏建壹座寺廟，因為他“舀水喝了，聞起來不壹般”，“環顧群山，愛上了奇妙的景色”，“看起來像是西方世界的壹座山”。坐了三年牢後，寺廟建成了，梁武帝給它起名叫“寶林寺”。後來先後改名為“中興寺”和“法身寺”，並於宋開寶元年(公元968年)，宋太宗賜名“南華禪寺”，寺名壹直沿用至今。
南華寺現在的格局是民國二十三年(1934)重建的。它由時任粵西北綏靖公署主任的李漢魂出資，由著名僧人徐燁主持。花了十年時間建造了243座寺廟和690尊新雕像，使南華寺成為廣東省首屈壹指的佛教聖地。目前，全寺建築面積1.2萬平方米，寺廟建築保留了中國古代建築風格，呈中軸線兩側對稱布置。從正門進入，依次為草西門、放生池、寶林門、天王殿、大雄寶殿、藏經閣、趙玲寶塔、六祖殿、張坊室。大雄寶殿內有三尊高達8.31米的鍍金大佛，四壁羅漢彩塑500余件，均為藝術珍品。六祖堂裏供奉著六祖慧能大師、寒山大師、丹田大師。左右壁上新嵌二十九塊石刻，上面根據禪宗經典記載，刻有南嶽淮讓、百丈淮海、密卷靈佑、陽山惠濟、臨濟奕譞、曲門文彥等二十九位慧能繼僧的畫像。寺後右側有壹口老錫泉(俗稱九龍泉)，終年清冷。據說當年的六祖慧能曾在此洗袍，蘇軾曾為其題寫了卓希全的碑文。泉前有九棵被稱為“植物活化石”的水松，高40余米。據專家考證，這是世界上最高的水松，樹齡超過500年。南華寺內有六祖真身、唐元明聖旨、千佛袍、清代大藏金、鐵鑄觀音等國家壹級保護文物300余件。
古往今來，南華寺因慧能在中國佛教史和哲學史上的崇高地位而吸引了許多人。宋代大文豪蘇軾曾在壹首寫給友人的詩中表達了這樣壹種深深的向往:“水聞曹溪口，目如古佛衣凈，不作香來江南。這具屍體在哪裏？””南宋的民族英雄曾寫道，“自古誰不死於人生？以丹心為史鏡的文天祥，也寫下了《望南國》這樣真摯動人的詩句:“北行千裏，忘西忘東。”去華南旅遊就像做夢壹樣。佛法知幾塵，苦與我同。有形的終將消亡，但真空不會消亡。笑曹和坐在門前。“在現代，許多著名的社會人物也曾來這裏觀光。1924年，孫中山在韶關發動第二次北伐戰爭時，與譚、、許世英等壹起出征。當他在政務、軍務上忙得不亦樂乎時，又向寺裏捐銀元，督促他打理寺裏的壹切，保護文物，供後人瞻仰。
南華寺最珍貴的文物是被稱為鎮山之寶的六祖真象。六祖像供奉在六祖殿。坐像高80厘米，六祖蹲坐。腿腳紮在袈裟裏，雙手合十在腹前做壹個姿勢。頭部挺直，面向前方，閉著眼睛，臉薄，嘴唇略厚，顴骨較高。南華寺還保存了許多珍貴的歷史文物:寺內雕刻的500羅漢是中國現存唯壹的宋代雕刻的500羅漢。千佛袈裟是唐代傳下來的稀有刺繡。絲綢的底部是杏黃色的，上面繡有1000尊佛像。所有佛像都是坐姿，雙手持、接、說、合掌。嘴巴、鼻子、眼睛和發髻清晰分明。用金線繡出圖像，再用藍色、淺藍色、朱紅色、黃色絲線襯托，再繡出藍色背光。被十二條栩栩如生的龍包圍著。據廣東省博物館專家考證，此袈裟是唐中宗贈給六祖慧能大師的。
2001年6月25日，南華寺作為明清古建築，經國務院批準列入第五批全國重點文物保護單位。