有关平凉歇马殿的来历是这样的：汉明帝时，汉使梵僧用八匹白马驮载佛经、佛像，回洛阳，途经平凉时，因阴雨连绵行进困难，就在路旁一处宽敞的店坊里驻足。
一月后，马队离开平凉向洛阳进发。因白马驮经有功，汉明帝刘庄就将新建的佛寺命名为白马寺，平凉将驻过驮经马队的店坊改为佛殿，起名“歇马殿”，以纪念佛教经文传入中国之始。
