司空山位於安徽省岳西縣西40公里處，海拔1227米，方圓35平方公里。山間有古洞10處、怪石11塊、崖14處、險峰12座、古瀑5處。它原名司空原，根據《太湖縣志》記載：世傳周朝「淳於司空居此」，山因之得名。淳于氏，戰國時任司空（官職）一職，為官清正，後隱居此山中修行，時稱「司空淳于氏」，所以這座山被稱為「司空山」。也由此可知，司空山在二千多年前就成為修煉之所。據說一個很重要的原因是山上有道家冶煉長生不老藥仙丹的重要原料：硃砂（硫化汞）。

在淳于氏之後，西漢時有梅子禎、東漢廬州府左慈、晉代葛洪都曾在司空山上修煉，並在其極頂龍頭石下的赤壁丹砂處煉丹，如今還有丹爐遺跡，被稱為「仙人巖」。當年左慈曾在山上建有玄妙觀。

南北朝時期，北周武帝滅佛。當時由菩提達摩創立的禪宗也滅臨著被滅的危險。師從達摩學禪，後被稱為禪宗二祖的慧可，為了保存禪宗的衣缽繼而發揚光大，從洛陽南下，最終來到了司空山。智炬《寶林傳》卷八載唐法琳所撰《慧可碑》說，當年慧可為了向達摩求法，四十歲親赴少林寺。為了表示自己求法的誠意，他數個通宵立在外面，雪深過膝，又手持利刃，自斷左臂，留下了「立雪斷臂」的典故。達摩感其精誠，於是傳授給他心法。來到司空山上的慧可，修煉之餘繼續弘法，今有「二祖禪堂」遺跡。後來，慧可在此將衣缽傳給了自己的徒弟僧璨，即禪宗三祖。僧璨相繼傳至道信、弘忍、慧能，「一花開五葉，五葉結正果」。慧可圓寂後，隋文帝賜謚「正宗普覺大師」，唐德宗賜謚「大祖禪師」。可以說，沒有司空山，就沒有禪宗的發展，因此司空山被稱為「禪宗聖地」。

自慧可之後，有眾多僧人在此修行，特別是在唐時達到了鼎盛時期。唐代天寶三年（744年），唐玄宗派人到司空山訪尋長生不老藥，在六祖慧能的高徒本淨禪師的指點下，得到了長春籐。玄宗因此拜本淨為「國師」，並敕建了「無相禪寺」 、「松波寺」等5寺9庵，以及僧房5048間，當時僧尼達7000餘人，由此可見其盛。五代至宋朝，又有兩名主持法師被封為國師。宋真際禪師、正德清寂禪師、鐵面智昺禪師都歸隱於此。此後，司空山禪宗發展走向衰落。明天啟二年（1622年），佛事復興，太空如浩禪師、三味律師在此修行，一些寺院殿堂被重新修葺。但後來隨著戰亂，廟宇逐漸破敗。清朝在此修行的僧人比較有名的是目唐戒可禪師。清康熙年間修復了部分廟宇，但經太平天國和文化大革命兩次浩劫，除二祖禪剎外，所有寺廟建築和佛像皆遭毀壞。

今天司空山猶存的聖跡多為自然景觀，如 「傳衣石」、「奎心石」、「印心石」、「洗墨池」及「赤壁丹砂」、「北嶺松風」、「南崖瀑布」、「烏牛古石」、「洗馬春池」、「銀河夜月」、「二祖禪剎」等。

在司空山主峰正面的崖壁上，有一塊巖壁凹下一塊呈心形，為赤紅色，被稱為「赤壁丹砂」，相傳是二祖慧可留下的「佛心」，以印證司空山為有緣之地。據說如果有佛緣，還可以看見嵌在崖壁上的略帶紅色自然天成的達摩「一葦渡江」圖。根據《神僧傳》卷四記載，達摩從古印度來中國傳法。他先來到了梁，梁武帝不解他話中的玄機。於是達摩離開了梁，折蘆葦一枝渡過長江，來到了北魏的國境。他來到了洛陽，在嵩山少林寺修行，面壁而坐九年。功成後仙逝，葬在熊耳山。

有人還發現一個有趣的現象：司空山，從四面看都是佛。從西面看，達摩西來，佛塔擎天；從北面看，大肚彌勒，側耳聽經；從南邊看，斷臂慧可，二祖參禪；從東面看，慈航普渡，觀音禮佛。是否如此，不妨親自體驗一下。

唐代大詩人李白也十分鍾愛司空山，他曾作《避地司空原言懷》一詩，表達了對仙家的嚮往。詩曰：