天台山幽靜、奇特的自然環境，吸引著歷代眾多修煉者來此修行。此外，道教認為天台山是神仙居住的洞天福地，因此其赤城山洞為十大洞天之一，其靈墟洞和司馬悔山為七十二福地之一。天台山由此被視為神仙窟宅薈萃之所。

早在東漢時期，就有一個叫張皓的人來到赤城山，服丹修道。後來他「耳能洞聽，目能徹視」。三國時吳國人葛玄亦來此修行。明釋傳燈《天台山方外志》卷十記載：葛玄年十八九，仙道漸成，入天台赤城精思念道，遇左元放授以九丹金液仙經。行持三年，廣積功效，光和二年（179）正月朔，感太上老君敕真人徐來勤（或作勒）等同降於天台，授靈寶經三十六部及上清齋法二等，並三菉七品齋法。南朝陶弘景所著的《吳太極左仙公葛公之碑》云：「公（指葛玄）馳涉川岳，龍虎衛從，長山、蓋竹、尤多去來，天台、蘭風，是焉遊憩。」後來葛玄羽化成仙。根據《天台山方外志》卷十，晉代在此修行、後來皆成仙人的有：道士袁根、柏碩、班孟、魏夫人、王玄甫、許邁、白雲先生等。南朝有褚伯玉、夏馥、徐則等。褚伯玉，16歲開始隱居在天台山修煉，二十年後，南齊高帝征其入宮，褚伯玉不願入宮，遂移居到大霍山仙去。

唐時，隨著天台山道教進入鼎盛時期，有更多的修道之人來到天台山修煉。比較著名的有葉法善、司馬承禎、謝自然、焦靜真、甘泉先生、許碏、田虛應、馮惟良、徐靈府、左玄澤、陳惠虛、杜光庭等。

葉法善，字道元，南陽人。七歲時曾進入仙府。二十歲時，他已身高九尺，額頭上有兩個「午」字。他性情淳和，品行清白純正，不吃葷辛食物。他常常獨處幽室，或者雲遊林澤，或者尋訪雲泉。從仙府歸來後，他已擁有役使鬼神的道術。他的家靠山，有一巨石擋路，進出要繞著走。他扔出一道道符，頃刻間巨石便飛走了，門前的路就平坦了。眾人都很驚奇。他經常到括蒼白馬山遊覽，在山中的一間石室內曾遇見過三位神人。三位神人都穿著錦衣，戴著寶冠。神人告訴葉法善：「我奉太上之命，把密旨告訴你。你本是太極宮紫微殿左仙卿，因為校錄不勤，被貶謫到人間。你應該趕快立功，濟世救人，輔佐皇上，等到功滿之後，就會恢復舊職。太上還讓我把修仙的法術傳授給你。你要勤於修行，教化眾生，好好努力吧！」此後，葉法善先後輔佐中宗、玄宗。開元八年正月二十七日，忽然有幾百隻雲鶴列隊從北邊飛來，在葉法善居住的山上飛翔盤旋。仙鶴徘徊了三天，五色的瑞雲覆蓋了他的住所。六月三日甲申時，他在京都景龍觀羽化成仙。他的弟子暨齊物、尹愔目睹了真仙下凡，但是他們秘而不宣。他所住的院子裡，異香芬郁，仙樂陣陣，有一股青煙直上雲天，持續了一天才消失。

據《唐王屋山中巖台先生碑碣》等載，司馬承禎在嵩山拜潘師正為師後，曾遍游名山，不久前往天台山，停留時間大致在武周朝至開元十二年（724）間。其間，在開元初，又去南嶽住過短暫時期。在天台山期間，司馬承禎建造了道觀，收了許多弟子，如女道士謝自然、焦靜真，男弟子薛季昌等，天台仙派出現。再有名道左玄澤，曾居香林峰石室，後居玉霄峰，絕粒不語，每出訪其友應夷節談論清虛。

五代和宋元時，仍有許多道士來此修煉。如五代有朱霄外，宋有張無夢、張伯端、陳景元、張契真、白玉蟾、張雲友、王茂端、祝通玄等。陳景元，號碧虛子。他在游天台山時，遇到了仙人張無夢，得秘術。元代時則有王中立、曹法師、張雨來此修道。明清時天台山道教日趨衰落，來此修行的道士也逐漸減少。

魏晉南北朝時，天台山已建有一批道觀（館）。最早的是天台觀，是孫權為葛玄所建，後來徐則也居此修煉。南北朝齊時，齊梁名士沈約在桐柏山建金庭館。唐代亦建造了不少宮觀，如桐柏觀、元明宮、洞天宮（後更名為玉霄觀）、白雲庵、法蓮院等。關於桐柏觀，唐崔尚《桐柏觀碑》云：「故老相傳雲，昔葛仙翁始居此地，而後有道之士，往往因之。」唐司馬承禎曾居於此，睿宗景雲年間，下詔建造桐柏觀，後來徐靈府、葉藏質進行了修繕。五代梁開平間，改為桐柏宮。法蓮院，唐鹹通六年（865年）葉藏質建。

後周廣順元年（951）朱霄外建造聖壽觀，舊名延壽，宋治平三年（1066年）改名聖壽。法輪院，吳赤烏元年葛玄曾居於此，後漢年間重新修葺，宋大中祥符元年改名法輪院。宋元時，除了對已有的宮觀進行修葺外，還新建了一批宮觀，如宋代的玉京觀、熙寧道院、玄靜觀、仁靖純素二宮、桃源道院，元代的養素道院、臥雲庵、鶴峰全真道院等。不過，所有宮觀至明末，幾乎全廢。有些改為僧寺。

在宮觀仙跡之外，天台山還有葛玄煉丹的「仙山」桃溪，碧玉連環的「仙都」瓊台、道教第六洞天玉京洞等仙跡。

除了修道之人在天台山上修煉外，自東晉起，亦有一些高僧來此修煉，修建佛寺。如東晉敦煌高僧曇猷，在哀帝興寧年間來到天台山。曇猷在赤城山的石室中坐禪。有數十隻猛虎蹲在曇猷面前，而他誦經如故。一隻老虎終於支撐不住開始睡起了覺，曇猷卻用如意拍打虎頭，問它為什麼不聽經。老虎最終一個個離去了。不料，又有一條大有十圍的蟒蛇出現，在曇猷周圍游來游去，頭始終看著他。如此半日才離去。次日，一位神仙現身對曇猷說：「法師威德，既然來到這座山上，弟子就以房屋奉獻。」曇猷說：「我來到這座山上，只佔據方寸之地。為什麼不一起住呢？」神仙回答說：「弟子倒是沒什麼不可以，但我的屬下沒有聽聞佛法，很難管教，可能給你帶來麻煩。況且人神本非一路，所以我還是要離開。」曇猷問他是何方神仙，想要遷到哪裡。神仙回答說，自己是夏帝的兒子，在這裡已經住了二千多年了，準備搬到其舅舅治理的寒石山去。臨別時，神仙贈給曇猷三奩香，然後敲擊刀鞘，率領部眾騰空而去。曇猷在此建了中巖寺。

天台山懸崖峻峙峰嶺切天，傳說山上有建築極佳的精舍，只有得道的人才能住進去。精舍在山澗的另一邊，需要跨過石橋。石頭橫起，而且青苔很滑，所以自古以來，還沒有人過去。一天，曇猷決定一試。他剛走到石橋，就聽到空中說：「知道你虔誠相信佛法，但現在還不能度你過去。十年後再來吧。」曇猷悵然乃退。在回轉途中，曇猷在一經過的石室中休息，不一會兒，雲霧轉暗，石室四面都響起了聲音，但他毫無懼色。曇猷十分遺憾，沒有走過石橋。因此在一次齋戒後，又來到了石橋邊。這次橫石打開，曇猷便走過了橋，看見了傳說中的精舍和仙人。曇猷便與他們一起燒香、吃飯。吃飯後，仙人對曇猷說：「十年後你自然會來到這裡，現在還不能住下來。」於是曇猷返回，橫石重新關上。

南北朝時，在天台山還建造了佛教「五百羅漢道場」的方廣寺；隋代建造了國清寺，宋建造了萬年寺和高明寺等。亦有佛家聖跡遺存。宋代出生在天台城關小北門外石牆頭的濟公活佛，就曾經在國清寺修行。他的神異故事已經是家喻戶曉。

因為天台山成為道、佛兩家的修煉之地，故有「山水神秀、佛宗道源」之說。唐朝著名詩人李白有詩《天台曉望》曰：