首先，鐵牛是用金屬製成的，所以先天具備了「金」的屬性。在古代的五行學說中，有「金克木」之說，而木配東方，東方的神獸是龍，所以金可克「蛟龍」，可以迫使其隱藏。蛟龍通常喜歡興風作浪，帶來水患，而有「金」在就使其藏匿，避免水災的發生。

其次，牛為「土屬」。《賈子•胎教》中說：「牛者，中央之牲也。」中國古代以方位同五行相配，有「東木、南火、西金、北水、中土」之說。牛為「中央之牲」，當然屬土，土能掩水。

此外，在中國古代神話中，牛被視為大地的象徵和大地的載體。《周禮•地宮•大司徒》云：「牛，能任載地類也。」在一些民族古老的神話中，牛是大地的支座，大地由牛用角頂住，當一隻角累了，就會換另一隻角。在這個更換的空當，大地會抖動，這就是地震。河南安陽曾出土殷商時期的大理石雕雙獸紋案就是以牛為底座，表現了牛的「載地」的功能。因為牛是神獸，因此被賦予了鎮水怪、抵禦蛟龍的功能。

關於鑄鐵牛可以抵禦洪水的說法大概始於唐朝，明代還有劉伯溫設「九牛二虎一隻雞」鎮洪水的傳說，清代很多地方的人們都相信這一說法，因此在沿河流域鑄造了鐵牛，以防止洪水的氾濫。

在水患嚴重的地區，除了鑄造鐵牛抵禦洪水外，還時常配有張口啼鳴的石製雄雞。據說石製雄雞也可以抵禦水患。為什麼呢？因為雄雞可以與太陽相類感，是一種充滿陽氣、有靈氣的動物。雄雞啼鳴，意味著天開始變亮，太陽升起，不好的陰性的東西消失，所以在民間雄雞一直是驅鬼除陰的鎮物。洪水是由水怪興起，具有陰性，所以雄雞可以防止洪水的出現。