因为当时山西经历的战乱较少，当时河南河北两个省加起来才378万人，而比河南还小的山西却有403万人，于是朱元璋 以“山西地狭民稠，下令许其民分丁于北平、山东、河南旷土耕种”。
这就是明朝洪洞大移民的起始，前后陆陆续续进行了18次，移出的人口多达上百万。但奇怪的问题出现了，据《洪洞县志》记载，明朝洪武二十四年的时候，洪洞总人口是9.2万人，到了成化八年，也只是增长到9.8万人，但移民出去的百万百姓家谱却都记载祖先来自洪洞。
明朝在洪洞设立了迁民处，将来自山西及周边省份的移民百姓统一集中到这里，发给川资凭照，然后从大槐树 这里统一出发。也就是说，移民其实有两种情况，一种是的确从洪洞这里迁出的，另一种则是来自其他地区，被集中到了大槐树下。
由于当时百姓识字不多，对于区划的概念非常有限，于是脑海中就将大槐树镌刻了进去，等到子孙后代修家谱时，口口相传的大槐树就成了老家。这一点，《明史》中也有很多记载，比如：徙山西太原 、平阳、泽、潞、辽、沁、汾民一万户实北平，迁山西泽、潞二州民之无田者往彰德、真定。
