对于甘城子这个名字的由来，史书也无记载，不过在当地老百姓间，却流传着这样两个故事。
第一个故事，说的是元代时，成吉思汗征伐西夏，率兵至甘城子一带，成吉思汗士气旺盛，把西夏军队赶出嘉峪关外，后来西夏军队又把成吉思汗赶出甘城，成吉思汗一看大事不妙，就采用火攻，那时正值冬天，百草枯死，树枝干裂，成吉思汗下令士兵村村点火，谁知刮起西北风，漫天的大火从贺兰山下向东南延伸，风大火猛，把沿山一带粮草化为灰烬，百姓无家可归，原来边城的房舍都被烧毁，一座粮草城成为干城。后来被人们叫成甘城子。
另一个传说就更离奇了，说是明代，甘城中有一口碗口大的泉眼，不断喷涌着清甜的泉水，那时，城墙头上旌旗招展城内店铺林立，一派繁荣景象。一天，从大山下来一位老道，走得又累又渴，他向一家商人讨水喝，商人见他腌臜，挥手要他快走。刚走了几步，他又向挑水的军汉要水喝，军汉把眼一瞪叫声：“要饭的，快滚开！”那老道两次都没讨上水，淡淡地说：“难道是座干城！”说着把手中的白蝇刷一甩，城中泉眼咕咚一声，等人们再去打水时，泉眼中已经没有水了，因为缺水，军民逃散，这里成了一座空城。后来人们慢慢的就叫成甘城子了。
