劉基的父親叫劉爚，傳說他的父母心腸非常好。一日，一位化作癩頭乞丐的白鶴仙師來家乞討，他們不僅不嫌棄，給他飯吃，而且還上山採來草藥，為其醫治爛頭膿瘡。白鶴仙師感念他們的善良，就告訴他們將先人的屍骨埋在家後面的五峰山腳下，日後必出將相之才。在仙人的幫助下，劉爚將祖先的屍骨埋在了山腳下。三年後，劉爚的妻子生下了劉基。

剛出生的劉基也不發聲，好像是個啞巴。劉爚夫婦正在發愁的時候，白鶴仙師再次出現了。他對劉爚說：「這孩子眉清目秀，天倉飽滿，地庫方圓，日後必能成為王候將相。」說完，他伸手往孩子的喉管一摸，又拍了拍胸膛，劉基一下張口發出了聲音。白鶴仙師隨即駕著祥雲飛走了。

小時候的劉基，非常聰明，有著過目不忘的本事，書看幾遍，就能背下來，所以深得老師的讚賞。

劉基二十二歲時就進士及第，但他為人剛正耿直，廉潔奉公，後因揭發監察御使失職，受排擠回家隱居。劉基在隱居期間，尋訪隱士仙道，據說還遇上了仙人黃石公。他最終具有了未卜先知、洞察今古的能力。

關於劉基遇到仙人黃石公，民間流傳著這樣的傳說。在劉基從白猿洞中得到無字天書後的一天清晨，劉基拿著一本書，在山上石門洞飛瀑左側數十丈的崖壁下誦讀。突然，一聲巨響，崖壁徐徐分開。劉基走著走著，來到一座石室，只見石室正中後壁潔白如瑩玉，壁上刻著兩個神仙，相向而立，四手同持一金牌，金牌云「卯金刀、持石敲。」 劉基天賦超人，自然領悟了。立刻拿起一大石，連敲石壁。許久，石壁自開，露出一石匣。石匣中藏著四卷兵書。

劉基非常高興，拿著兵書四卷，回頭就走。待他走出洞外，石壁復合如故。

劉基回到住處，拿出四卷兵書，左看右看，卻不知其中奧秘。待到皓月當空，劉基翻開無字天書，只見天書中映出「人外有人」四個字。劉基明白這是讓自己去尋找高人。於是劉基遍訪名山古剎，終於有一天在一座高聳入雲的山峰頂上，見到了一位仙風道骨的道長。道長遞給劉基一本二寸厚的書，對他說：「如果明天能夠背記這本書，我就指點你。」

聰明的劉基到了半夜，兩寸厚的書就能背記了。道長感歎不已，說：「真是一個天才也！」他隨手打開一座石室，引劉基入內。劉基看到室中有各種各樣的書，他異常激動。於是，道士將石室之書連同劉基帶來的四卷天書一併講論。經過道長的悉心傳授，劉基終於弄懂了四卷兵書與石室之書的要旨。下山前，道長告訴劉基，他就是當年授兵書於漢張良的九江黃石公也。

元朝末年，群雄並起。朱元璋起兵後，劉基秉承天意，出山投靠，並最終助朱元璋成就帝王之業。

劉基頗有預知的能力。據說朱元璋當吳王的時候，江南發生了一場旱災。劉基掌管天文，朱元璋問他為什麼發生大旱，怎樣才能求上天下雨。劉基說：「天一直不下雨，是因為牢獄裡關押的人有冤屈。」朱元璋聽了劉基的話，就派他去查牢監裡關的犯人。劉基一查，果然有不少冤案。他向朱元璋奏明後，平反了冤案，把錯抓的人放了。果然不出幾天，烏雲密佈，接著就下了一場透雨。

還有一次，明太祖呆在內殿，正在吃燒餅。剛吃了一口，內監忽報國師劉基來見。太祖用碗將燒餅蓋住後，將劉基召進內殿。禮畢，太祖問道：「先生深明數理，可知碗中是何物件？」 劉基掐指算了算，應道：「半似日兮半似月，曾被金龍咬一缺，此食物也。」打開碗，果然如其所說。

洪武四年(1371年)，劉基告老還鄉(太祖賜歸)。因為劉基疾惡如仇，得罪了一些奸妄之人。胡惟庸是明初的頭號奸妄，劉基和大將徐達等都曾進言太祖勿用其人，胡惟庸後來派人散佈謠言說劉基為自己選擇了有王氣的墓地，以圖後榮。朱元璋雖然是個勤奮的君主，但是心胸比不上唐太宗。於是明太祖剝奪了劉基的俸祿。劉基被誣陷後不得不到京城請罪，太祖沒有太多責罪，後來派人護送劉基返鄉。據說當時劉基有病，胡惟庸派人曾在劉基藥中下毒。回到家鄉後，劉基告訴兒子：「如今朝廷應當修德政，減少刑法，可惜如今有胡惟庸當道，講這些沒用。將來胡惟庸敗亡之後，太祖會想起我，你要將我的意思奏給皇上。」劉基還說：「如果我的預言不准，才是天下人的福份啊。」一個月後，劉基便死了，終年六十五歲。後來胡惟庸成了宰相，做了許多壞事。直到多年後他逆謀敗露，被處死。事實再次證實了劉基預言的準確。