關於華山名字的由來，漢朝史學家班固在《白虎通義》中說：「西方為華山者何？華之為言獲也，言萬物成熟可得獲也。」唐朝徐堅等人編撰的《初學記》中進一步稱：少陰用事，萬物生華，故曰華山。因為其西面為少華山，因此又稱太華山。華山有落雁（南峰）、朝陽（東峰）、蓮花（西峰）、玉女（中峰）、五雲、雲台（北峰）諸峰，前三者為其主峰，其主峰最高海拔是1530多米，高度列在恆山之後。

華山和道家的淵源可以追溯到先秦時期。據說當年的老子西行至函谷關，在為關令尹喜著書上下篇後，就來到了華山。如今華山北峰尚有其名為「老君犁溝」的遺跡。此後一直有人在此修煉成仙。

漢朝後在華山修煉成仙之人可從史書上尋找到蹤跡。比如壺公、張楷、魯女生、寇謙之、修羊公、韋節、陳摶等。

東漢的張楷，字公超，善作五里霧，在華山修行的地方後名為張超谷。晉清虛真人裴君，住在華山的石室修行，後感動了西王母，數次降臨傳授修行之法。

魯女生，漢代道士。他常服食胡麻，辟谷80多年，但卻色如桃花，年輕如少年，而且行走神速。一天，魯女生在嵩山遇見一仙人，傳了他成仙之法和《五嶽真形圖》。此後，他隱入華山修道。

《神仙傳》也記載了一個叫壺公的神跡。他可以跳到葫蘆中去。東漢一個叫費長房的小官吏跟從他來到華山西邊的孤峰石室中，準備修行。壺公對他進行了很多考驗。比如壺公將費長房放在一群老虎中間，老虎張牙舞爪，並對他張開了血盆大口想咬他，可是他一點都沒有動心。第二天，壺公又將費長房關在一間石屋中，石屋上方用草繩拴著一塊巨石，很多條蛇正在啃咬草繩，巨石搖搖欲墜，他還是鎮定自若。老人笑嘻嘻的說：「看來你確實是個可塑之才。」於是拿出一大盤爬滿蛆蟲的糞便讓他吃。他聞到一股惡臭，哪裡吃得下去。老人見他如此，長歎道：「你終究還是成不了神仙，我讓你當地上的人瑞吧，可以活好幾百歲。」——原來那惡臭的東西是仙藥，是為了測試費長房道心是否堅定而變幻出來的假象。費長房沒有通過測試非常失望，只好回了家。雖然他沒有修成神仙，卻學會了一些世間小道，能夠濟世救人，還能夠日行千里。

根據《魏書》記載，寇謙之在遇見仙人成公興後，跟隨其進了華山修煉。在華山時，他吃了成公興的藥，此後不再感到飢餓。其後，他又去了嵩山修行。

《列仙傳》記載，修羊公是魏國人。他曾在華山的石室中修行，裡面只有張懸空石床，修羊公睡在上面，石床都讓他睡的踏了下去。他不大吃東西，只是偶爾吃一點黃精。後來他憑道術拜見景帝，景帝對他以禮相待，並讓他住在諸侯王的官邸裡。但過了幾年仍未見他顯道，景帝就下詔問道：「修羊公什麼時候才能表現出道術？」話未說完，只見床上的修羊公化為白羊，並在脅部題有「修羊公謝天子」的字樣，景帝命人將石羊放到靈台上面。後來石羊離去了，不知去了什麼地方。

類似上述在華山修煉成仙的故事，我們還可以在明隆慶《華州志》卷二十四《隱逸考》、《歷世真仙體道通鑒》、清李榕著的《華岳志》卷二《仙真》等書中尋覓到。比較有名的修道人還有：北魏宣武帝時的韋節；北周武帝時的焦曠和弟子王延；唐代的杜懷慶、姚得一、張公弼、韋集等；五代宋初的鄭遨、羅隱之、鄭隱、陳摶等。陳摶在華山修煉之時，得到了由仙人河上公創製的修煉之法「無極圖」。 「無極圖」後成為道家重要典籍。金元明清時期，在華山上修行的人仍然很多。

如此多的人在此修煉並得道成仙，自然也就留下了許多的仙跡，特別是修行的宮觀。華山道觀以西嶽廟建立為最早，據說建於漢武帝時，北周天和二年（567年）重修，以後歷代均有修葺。西嶽廟的廟門正對著華山，登上其五鳳樓，可以一覽華山五峰。此外，還有北周武帝為仙人焦曠建造的雲台觀和「上方白雲宮、中方太極宮、下方雲台宮」三宮；唐宋時期建造的王母觀、素靈宮、仙宮觀、玉泉院、西嶽真君廟、拱極觀等。其中仙宮觀是在唐朝金仙公主飛升後，奉皇命建造的。金元時期建造的有清華觀、希夷先生祠等。明清時，沒有建造太多的新的宮觀，以往的宮觀也很少進行整修。目前，存留的宮觀主要有西嶽廟、玉泉院、群仙觀、王母宮、鎮岳宮、玉女祠、翠雲宮等。這裡還要說一下玉女祠和翠雲宮。玉女祠中供奉的是春秋時期喜歡吹蕭的秦穆公的女兒弄玉。據說她與夫婿簫史飛升而去。所以人們在此設祠紀念她。而翠雲宮中供奉的是劈山救母的女神三聖母沉香。

唐朝著名詩人李白亦曾幾次來華山遊覽，並留下了讚美仙山和仙人的詩句《西嶽雲台歌送丹丘子》：