「前衛歪塔」於何時建成的呢？一說是建於北魏時期，但是專家們從該塔的建築風格來推論，應為遼代中前期所建，距今約在一千年左右。今天的前衛鎮，就是遼代的來州來賓縣縣城，元代在該地設置瑞州，因此前衛歪塔又被稱為「瑞州古塔」。

由於缺乏史料依據，又無碑碣出土，歪塔的具體建築時間至今依然是個謎。與同一時期的其它石塔相比，前衛歪塔的建築規模並不大。它是一座實心密簷式磚塔，以石築做為塔基，用磚砌成塔身，分三級呈八角形，塔身雕有磚刻佛像、花紋、獅子頭等圖案，線條清晰，刀法工藝精湛。歪塔為單頂，頂部原來建有頂蓋，但現已塌陷殘缺，現存塔高約10米。塔身上原有的飛天磚雕和塔身佛龕中的佛像，都已被盜毀無存。塔身底部的青磚已被人為拆毀了很多，露出極不均勻的石頭毛茬，塔的上面和四周更是佈滿了枯草，使得這座見證了一千多年風雨洗禮的斜塔面目皆非。

前衛歪塔由於距今有千年之遠，自何時開始傾斜已無從考證。而真正的傾斜原因，恐怕也成為千古之謎。專家經過編查史書和多年調查研究，做出其傾斜是地震所致的大膽推測。因為遼西走廊是歷史上地震活躍的區域，明隆慶二年(西元1568年)曾發生大地震，當朝在關外的堅固城堡─寧遠衛城(今興城古城)的城牆都被震垮，寧遠、前衛城中很多房屋被震得面目全非，前衛塔很可能是那時遭受震災而開始歪斜的。當然，也不能排除地下水侵蝕、風力等因素的影響。

據《綏中縣志》中記載，早在30多年前的測量結果是，塔身向東北方向傾斜12度，塔尖移位1.7米。數百年來，幾經地震與洪水侵襲，該塔始終斜而不墜、歪而不倒，因而素有「怪塔」之稱。前衛歪塔堪稱中國斜塔建築中的瑰寶。

目前，被稱為「斜塔」的古塔在中國已達到17座，其它斜塔的傾斜度，較堪稱世界第一的前衛歪塔的斜度都有很大的差距。上海松江縣天馬山「護珠塔」傾斜度是6度52分，位居傾斜度亞軍的是南京「定林寺塔」，傾斜度是7度59分54秒，不足8度。意大利比薩斜塔是由於人為的設計失當而逐漸傾斜的，其傾斜度為5度40分。