相传很早以前，太行山上有座小城，城北有座石头山，山下一座小村的破草房里住着一个孤苦伶仃的孩子。村民们都不知道这个孩子叫啥名字，只知道他姓张，因为经常和大山在一起，时间长了人们就叫他张山。张山无依无靠，就靠给地主打长工扛短工度日。

　　有一年冬天，西北风连着刮了几天，接着下起了鹅毛大雪，到处白茫茫一片。张山往破衣口袋里装了几个红薯，拿上疙瘩镰就上了山。到了山上他东打西拣，总算收拢了一小捆柴火。

　　张山正准备扛上柴火下山。这时，他听到不远处的一个山洼里，传出有人呻吟的声音。他顺着声音过去一看，发现有个白胡子老人躺在地上，他赶紧上前扶起老人。看见老人冻得浑身发抖，就把自己打的柴火点着为老人取暖。

　　张山看着老人少气无力，忙把自己带的红薯拿出来给老人吃，并提出要送老人回家。老人看到这个孩子乐于助人，非常感动，就从怀里掏出一个用白纸剪成的白马，对张山说：“ 你是一个好孩子，你救了我，把这个白马送给你吧，这是匹神马。” 老人把白马交给张山后，一闪就不见了踪影。

　　张山自从有了这匹白马，就在山上开了荒，种上了庄稼，搭起了草屋马棚，起早贪黑、勤恳劳作。

　　不久，张山得到白马的事就传遍了四乡五邻。一天，不知从哪里来了一个贼汉，他听说张山有匹白马是神马，就千方百计想弄到手。

　　一天， 贼汉偷偷到了山上，踩了点，察看了张山居住的地方。然后在一个伸手不见五指的夜晚，悄悄潜伏到山上。等到半夜三更天后，他来到白马槽边解开缰绳，把白马牵出马棚外边，准备一跃上马逃出此地。白马一看不是自己的主人，死活不跟他走。这个贼汉抓住马的缰绳，用劲往外拖，白马就是不动。他上去抓住马脖子上的马铃圈往外一拽，马铃圈断了，马铃滚落了一地。他又去拖住马的缰绳，使劲往外拉。这下把白马惹急了，拖着这个贼汉就飞也似地狂奔起来。结果， 贼汉被摔到深山沟里跌死了，白马也跑得无踪无影，不知去向。

　　张山听到动静，跑出一看不见了白马，四处找寻不见，不知如何是好，就急得哭了起来。正在为难之时，只听身后有人说道：“孩子别哭了，白马会回来的。”张山回头一看，正是送马的白胡子老人。老人说：“你只要对住东北方，连喊三声，白马白马，快快回家，白马就回来了。”张山按照老人说的做了一遍，不大一会白马真的又飞也似地跑回来了。从此以后，白马又和张山到了一起，并且帮助穷人驮煤拉炭、犁地拖耙、收秋打夏，做了许多好事。

　　有一天，突然山崩地裂一声响，天空中一道红光闪过，人们看到张山和白马腾空而起，飞向天空不见了。后来人们为了怀念白马对百姓的好处，就在山上修了座“白马寺” ，为了防止坏人前来捣乱破坏，还修了座镇山宝塔。

　　后来人们经过白马寺，在地上拣块形似马铃的礓石一摇，里边是空的，还能听到响声。据说这就是从前白马拖缰时被散落在地上的马铃。

　　从此，白马拖缰的故事代代相传，白马寺成了古时晋城四大景之一。