根據道教典籍所載，玉清為元始天尊，上清為靈寶天尊，太清為太上老君，都是天上神仙，合稱「三清教祖」。而頗具道家意味的三清山的玉京、玉華、玉虛三座山峰，如似道家的三清（即玉清、上清、太清）三位神仙列坐其巔，故名。它自古就被譽為「天下無雙福地」、「江南第一仙山」。

三清山上很早就留有修煉者的足跡。早在東晉年間，葛洪與李尚書就開始在三清山上結廬煉丹，並向眾生宣講「人能成仙」之理。據說現在山上還留有當年葛洪所掘、並被後世稱為「仙井」的丹井和煉丹爐的遺跡。隋唐時期，三清山的道教開始發展。唐代乾符年間，周靈王后裔王鑒任信州（今上饒）太守，看見三清山山明水秀，於是任滿之後攜家退隱在山下，世代繁衍。宋代繼續發展，王鑒第十世孫王霖，在山上創建殿宇，供奉三清教祖，明朝達到鼎盛，有眾多道士在此修煉，如詹碧雲。明朝後期道教走向沒落。

唐朝在葛洪結廬煉丹之處建造了第一座道觀「老子宮觀」。宋代開始建造大量道觀，有葛仙觀、福慶觀、靈濟廟等。元時進一步擴建了道觀，一些景物、地點也以道教稱謂命名，如仙人橋、雷公石、判官石等。明代建造的宮觀有龍虎殿、方士羽化壇、玉靈觀、糾察府、演教殿、九天應元府、潘公殿、方壕上、天門石坊、飛仙台、流霞橋、石階「眾妙千步門」、「沖虛百步門」等，並將三清觀改建為三清宮。

風門是三清山的第一座山門，乃是天然石門。眾妙千步門是二座山門，高1400米。因為有上千級（實為九百多級）石階，故名「千步門」。「眾妙」一詞出自老子《道德經》中「玄之又玄，眾妙之門」之句，意思是說「道是深遠而精妙的」。過了千步門，就登上了「千步雲梯」，其陡無比。途中要經過東、南、西、北、中「五天門」。第三座山門叫沖虛百步門。「沖虛」一詞也是出自《道德經》。再跨過浮雲橋，走完「百步雲梯」路，就到達了「三清福地」的大門口「天門」。 天門附近平台上有一對石華表，華表上有一聯：「清絕塵囂，天下無雙福地；高凌雲漢，江南第一仙峰。」由此進入三清福地。

玉京峰上的仙跡除了九天應元府，還有「升天石」、「仙人下棋石」、「瑤台」等，據說在此有時還可以看到佛光。其南面還有三座並立的高峰，中間一座名為蓬萊峰，右為方丈峰，左為瀛洲峰，總稱「蓬萊三峰」。大致海拔在1800米左右。因為四周懸崖絕壁，高不可攀，故至今沒有人涉足過。玉京峰以南有「觀音賞曲」、「道人拜月」、「藏蛇露尾」、「司春女神」和「巨蟒出山」五個絕景。「觀音賞曲」又名「觀音聽琵琶」峰，位於瀉玉橋附近，由三座山峰組成，一如琵琶，一為葛洪像，另一座像觀音大士，端莊而安詳的在聆聽「葛洪彈琵琶」。傳說葛洪有感民間疾苦，遂通過琵琶之聲傾訴，感動了觀音菩薩。

三清山北麓的西華台是古代登山主道，有老子看經峰、揚清橋、獅子峰、慶雲陸、西華台、碧玉巖、登漢路等。這裡森林茂密，景色怡人。

三清山腹部以深溝大谷為主，內有飛仙谷、仙橋墩、瓊台閬苑、三洞口等景點。從梯雲嶺進入仙谷後，不遠處有「仙橋墩」，相傳古代有仙人欲在此架一「仙橋」，連接玉華峰，溝通南山和北山，但是沒有結果。

三清山東麓是流泉飛瀑集中之地，有著名的玉簾瀑布、川橋雙色瀑布、石門四疊瀑布等。此外，還有石鼓嶺、回音壁、鴛鴦潭、三杏抱梅、泉水巖、八仙洞等勝景。

明朝胡靖有詩《少華山》，讚美了人間無雙福地三清山。詩曰：

(English Translation: http://www.pureinsight.org/pi/index.php?news=4605)