一種說法是根據山形得名。清雍正《江西通志》卷十一云：「龍虎山在貴溪縣南八十里，兩峰對峙，狀若龍虎。」傳說曾有九十九條龍在此集結，故山的形狀象龍盤，似虎踞，龍虎盤踞，互不相讓，故稱「龍虎山」。另一種說法與東漢時期的道士張陵在此修行有關。傳說當時張陵與弟子乘船沿鄱陽湖逆水而上，經過龍虎山時，在神仙差遣的兩隻仙鶴的引導下，進入該山開始煉丹修道。當仙丹煉成時，龍虎現身，因此「雲錦山」改稱「龍虎山」。此一說法可見清代婁近垣所著《龍虎山志》卷二。

《龍虎山志·藝文》載：「龍虎山歷魏、晉、唐、宋，代有褒崇，若山川之勝，宮宇之麗，人物之繁，仙跡之異，道行之神，爵望之顯。代之慕擬歆艷者，或美之於詩文，垂之金石，傳遞一千餘載。」可見，龍虎山是仙山，有著諸多的仙跡，是渴望求仙得道之人的修煉佳所。據說該山由仙人張巨君掌管。

史料載，張陵在龍虎山修行一段時間後，向西進入四川，先後在鶴鳴山和青城山修煉並傳道，創立了「天師道」。傳說張陵之後的第四代天師張盛在三國或西晉永嘉（307∼312）間回到龍虎山，從此天師一派永居於此並發展壯大，但這種說法還無法從史料中得到佐證。不過《龍虎山志》卷二《上清宮》條稱：上清宮原為「第四代天師自漢中歸龍虎山（所）建傳菉壇，唐會昌中，賜額真仙觀。」但沒有寫出確切時間。還有一種說法是張陵的第十二代孫張道裕在南朝天監二年（503年）來到龍虎山修煉，並受張陵點化開始在此修建道觀。雖然目前「天師道」何時在龍虎山開始發展還無定論，但該派在龍虎山的發展並壯大卻是不爭的事實。

從唐會昌至五代末，天師二十代張諶、二十一代張秉一、二十二代張善和二十三代張季文率領眾弟子在此修行。從宋朝開始，在朝廷的支持下，「天師道」進入興盛時期，成為與茅山、閣皂並立的三山符菉之一。元代是龍虎山道教的鼎盛時期，明代中前期繼續發展，明後期至清代走向沒落。張天師一共傳承63代，歷經近二千年。

除了天師外，龍虎山還出現了許多有名的道士。比如宋時的王道堅和留用光，頗有仙術，留用光多次禱雨都非常靈驗；元朝的劉思敬、金志揚等；明代的方從義等。

龍虎山上的仙跡主要散佈在宮觀、仙巖、山峰等處。

龍虎山宮觀非常多，鼎盛時期曾建有91座道宮，81座道觀，50座道院、二十四殿、三十六院，被稱為「道都」，「仙靈都會」。最早建造的的道觀是南唐保大八年（950年）所建的張天師廟；唐會昌至五代末，建造了真仙觀和另一座三清觀。宋朝時擴建的宮觀有上清宮（真仙觀）、上清觀、正一觀等，新建的有凝真觀、靜應觀、祈真觀、靈寶觀、逍遙觀、金仙觀、紫霄宮、真元宮、真應觀等近二十所。元代除對原有宮觀修葺外，又新建有大批宮觀，如文惠觀、乾元觀、會真道院、望仙道院、紫霄道院、清溪道院、慈壽觀、八卦庵、止止庵、寄庵、太極庵、西華道院、玉隆宮、元都觀、神德觀、明勝觀、先天觀等。明前中期新建的宮觀只有北真觀、南極觀和沖元觀。目前大部分宮觀已經破敗。

此外，龍虎山的仙巖堪為奇觀。金龍峰馬祖巖是禪宗禪師之一馬祖道早期參禪悟道的場所。煉丹巖是祖天師張陵結爐煉丹的地方。仙水巖的崖墓群是中國修煉史上的特殊一景；仙水巖是「仙巖」和「水巖」的總稱，又名仙人城。從上清千年古鎮乘竹筏順瀘溪河到仙水巖，沿途可經過仙鼠石、鳳凰橋、仙水井、仙如庵、清濁水池、龍化池、兜率宮等十處神奇之所在。從這些名字，我們不難看出此處仙跡真是隨處可拾。

還有，在靈芝峰南有一座由數塊巨石堆積而成、長數十米、高數米的橋，相傳是東西海龍王交戰之時，由二郎神帶來，用於涉險過天兵的，故有「仙人橋」之稱。

當然，如果細細尋去，相信龍虎山上的仙跡還有許多的。

最後借用唐代詩人顧況讚美仙人城的詩《安仁港·望仙人城》作為本篇結尾：