临汾素有“卧牛城”之称。1977年10月，有人在城墙东北角取土时挖出一个石匣，匣中有一尊铁卧牛，并有明朱洪武年间的碑记一块，这大概就是临汾被称为“卧牛城”的见证。

    临汾城池始建于西晋，距今约1600多年。铁卧牛是什么时候埋入城墙之中，无从考证。出土碑记中有“癸丑（1373）冬十有一月二十有五日”字样，修整城墙时，就从城东北角挖出过此铁牛；另谓五代梁开平二年（908）九月吾州刺史徐怀玉刻记，记载梁晋交兵时，寇退而修城就曾挖出过此物，当时“以为祥”，便原封不动地将铁牛埋在原处。明癸丑年第二次出土后，当时亦认为是“退灭寇兵之祥”，便择吉日，藏之。1977年10月则是铁牛第三次出土。现在这尊铁卧牛已在尧庙展出。

    唐朝灭亡，五代开始的第二年，梁晋交兵，刚上任的后梁晋州刺史徐怀玉严阵以待。晋军多次攻城未克。退走之后，徐怀玉组织守军赶修被毁的城墙，在城墙的东北角，挖开城基，赫然发现土中埋着一尊铁铸卧牛，众人啧啧称奇，纷纷议论说：“这是一件吉祥之物，可保佑晋州城坚不可摧。”徐怀玉赶紧命人刻石，记录发现铁牛的经过，然后将铁牛装入一个石函，把原地略作清理，刻石平放于地，石函放在其上，最后填土，夯筑城墙。不过数日，晋州城坚固如初。后来朱元璋建立了明朝，平阳卫指挥使胡渊率兵卒修筑临汾城，在清理东北角旧城基础时，又挖出此物，铁牛在相隔465年后重新出土。

    胡渊弄清铁牛及石碑的来历，视为神物，便命手下将校择吉日举行隆重仪式，恭恭敬敬将石函及徐怀玉所刻之碑埋入原处，并命平阳卫管军正千户张桂撰文刻碑，记述此事的前因后果。

    这正是：千年祥气聚尧都，卧牛城中生绿芜；古人固城御贼寇，今朝建城惠民生。(锡刚)