公元575年，即陳宣宗太建七年，高僧智顗帶著慧辯等二十餘名僧人來到天台山。據說，在來之前，智顗曾夢見一處巖崖萬重、雲日半垂，滄海無邊之地；在山上，一個僧人向他招手，還挽著自己上山。智顗將夢中所見告訴了弟子，弟子說，這是會稽的天台山。於是智顗決定帶弟子去天台山修煉。來到天台山後，智顗選擇了北佛壟山南螺溪之源修行，並結茅成庵，遍植松柏。

智顗來到天台山後，每年夏天都要講法。當時信佛的陳宣宗對智顗也十分禮敬，為智顗在天台山上建造了寺院，名為「修禪寺」。當地縣令袁子雄，崇信佛法。一次，正聽智顗講法時，忽見三道寶梯，從空而降，有數十天竺僧人乘階而下，入堂禮拜，並手擎香爐繞著智顗轉了三圈，過了很久才消失。

智顗在修禪寺坐禪修行約十年後，在陳後主的懇請下，下山到金陵講經說法。後在隋開皇十五年(595年)回到天台山，但此時的修禪寺已荒廢許久了。智顗決意要在天台山另建佛剎，並說：「寺若成，國即清，當呼國清寺。」但心願還沒有實現他就圓寂了，其弟子灌頂秉承智顗遺願，在開皇十八年(598年)開始建寺。寺成後，初名天台山寺，後在大業元年正式更名為「國清寺」。隋皇楊廣賜匾額。灌頂為國清寺第一任住持。灌頂繼承了由智顗開創的天台宗，並繼續發揚光大。

國清寺建立後，也經歷了興衰起伏。唐會昌五年(845年)滅佛時，寺中的僧人都被迫還俗，殿堂皆毀。大中五年(851年)至鹹通五年(864年)間，國清寺重建，開始了新的發展。宋景德二年(1005年)改名為「景德國清寺」。元朝時曾經衰廢，明洪武十七年又毀於大風。隆慶四年(1570年)重建大殿，後又被毀。萬曆二十五年(1597年)又重建。清雍正十一年(1733年)八月至十三年八月間又重建，後又有增修。文革期間，國清寺中的佛像被砸，法器、石獅被毀壞殆盡。1973年重新整修。

國清寺歷代高僧倍出，知名的除了灌頂外，還有一行、寒山、拾得、豐乾等。

國清寺坐北朝南，總面積約為73,000平方米，目前尚存清代重建的殿宇14座，由數十個大小不同、風格各異的院落和建築群組成。寺內建築分佈於五條軸線上，寺院周圍還有豐干橋、寒拾亭、七佛塔、一行墓及隋塔等建築。

國清寺山門一反常規，朝東開而不朝南開。寺門簷下橫匾是紅底金字「國清講寺」，左右楹聯分別為：古剎著城中創六代盛三唐宗風遠播，名山傳海外倚五峰臨三澗勝跡長新。

進入山門，沿中軸線首先進入的就是彌勒殿(山門殿)。進彌勒殿，國清奇觀「到眼宛如展畫屏」，這就是國清寺匠心獨運的建築佈局的「起、承、轉、合」。面寬三間的大殿內供奉的是彌勒菩薩像，其身後是恭敬站立的韋馱菩薩像，左右是兩大金剛。

彌勒殿後是天王殿，天王殿後是大雄寶殿，殿內正中的蓮花寶座上端坐著釋迦佛銅像，高6.8米，重13噸，為明代所鑄。兩側是阿難、伽葉二弟子。在左右兩壁上，是元代楠木雕成的十八羅漢，後壁左右兩旁分坐著文殊、普賢二菩薩；後背正中是南海觀音像。大雄寶殿後是後來新建的觀音殿以及錫杖泉。錫杖泉旁立有一塊石碑，上書「錫杖泉」三個字，並有碑文記載：「宋僧普明坐禪於此，因寺內取水不便，以錫杖頓地曰：『此處當有泉！』水即湧出，故名。」

東側第一條軸線的殿堂依次是：客堂、聚賢堂(即齋堂)、說法台(即方丈樓)和迎塔樓。第二條軸線上的殿堂依次有廚房、大徹堂、修竹軒。西側第一條軸線上的殿堂是：魚樂園、安養堂、三聖殿、鵝字碑、妙法堂等。其中鵝字碑右半邊是書法家王羲之的真跡，左半邊是天台人曹掄選補寫的。據傳，曹掄選發現這半塊鵝字碑後，便認出是王羲之的手筆，因此決心補全這個殘碑。他日夜臨摹王羲之的碑貼，整整練了七年，終於補上了這個殘缺的半邊，達到了以假亂真的程度。而西側第二條軸線上的殿堂依次有：伽藍殿、玉佛堂。

國清寺建築最大的特點是集中了中國古代建築中各種廊沿形式，其近2000米廊沿貫穿全寺，通道廊沿有挑簷廊、連簷柱廊、重簷柱廓、雙層柱廊、單層柱廊、雙層雙簷廊等。高低錯落，明暗相間，頗具特色。

出了國清寺，在寺東南的山坡上，有一座隋朝建立的隋塔。塔高59.3米，六面九級，空心，四周磚壁上雕有佛像，栩栩如生，極為精美。塔的西北坡下是高僧一行墓。此外，寺周圍還有為為紀念寺僧寒山、拾得而建的寒拾亭，為紀念唐高僧豐干而建的豐干橋。

處於世外桃源環境中的國清寺，在今天依然以其清幽深邃吸引著有緣之人。