相傳，呂洞賓遊歷了四川的峨媚山後，一時心血來潮，打算去東海尋仙訪友。他身背寶劍，沿著長江順流而下。這一天，來到了武昌城。這裡的壯觀景色把他迷住了，他興沖沖地登上了蛇山，站在山頂上舉目一望，只見對岸的那座山好像是一隻伏著的大龜，正伸著頭吸吮江水；自己腳下的這座山，卻像一條長蛇昂首注視著大龜的動靜。呂洞賓心想：要是在這蛇頭上再修一座高樓，站在上面觀看四周遠近的美景不是更妙嗎！可這山又高，坡又陡，誰能在這上面修樓呢? 後來，呂洞賓就請幾位仙友來商量。

他把寶劍往天空劃了一個圈，何仙姑就駕著一朵彩雲來了，他連忙把自己的想法告訴了她，何仙姑一聽笑了：「你讓我用針描個龍繡個鳳還差不多，要說修樓，你得請別人!」呂洞賓又請來了鐵拐李，鐵拐李一聽哈哈大笑：「你要是頭發昏，我這裡有靈丹妙藥，要修樓，你可要另請高明!」呂洞賓又請來了張果老，張果老搖著頭說：「我只會倒騎著毛驢看唱本。但你不要著急，我助不了你，會有助你的」說罷，也走了。呂洞賓想，誰來助我呢？

正在這時，忽然聽到從空中傳來一陣吉祥的鳥叫聲，他連忙抬頭一看，只見魯班師傅正騎著一隻木鳶朝著他呵呵地笑呢。呂洞賓急忙迎上去，把自己的想法說了一遍。魯班師傅走下木鳶，看了看山的高度，又打量了一下地勢，隨手從山坡上撿來幾根樹枝，在地下架了拆，拆了架，想了一會說：「咱們明天早上再商議吧。」

第二天早上，雞剛叫頭遍，呂洞賓就急急忙忙地爬上蛇山，只見一座飛簷雕棟的高樓已經立在山頂上了。他大聲呼喊著魯班的名字，登上最高一層，可自始至終尋不得魯班，只看見魯班留下的一隻木鶴。這木鶴身上披著黃色的羽毛，正用一對又大又黑的眼睛望著他。呂洞賓非常高興，一會兒摸模樓上的欄杆，一會兒看看樓下的江水，又取出一隻洞簫對著波浪滾滾的江水吹起了曲子。他一邊吹簫，一邊又看看木鶴，這木鶴竟隨著音樂翩翩起舞呢!他騎到了木鶴身上，木鶴立時騰空，衝出了樓宙，繞著這座高樓飛了三圈，一聲鶴唳，鑽進白雲裡去了。後來，人們就給這座樓
起了個名字，叫黃鶴樓。