从山西往河南的移民，需要追溯到明朝。
在
明朝大移民历时50年，移民的方法和步骤大体有遣返、军屯、商屯、民屯等几种。更多的还是采用招诱、征派的强迫的办法。俗话说：穷家难舍，故土难离。你再说中原地方好，几年不纳粮，可谁也不愿迁到那里去，没办法只好制定徙民条例，按"四口之家留一;六口之家留二;八口之家留三”的比例迁徙。
根据《明史》、
《明实录》等史书记载，自
洪武六年(1373年)到
永乐十五年(1417年)，先后共计从山西移民18次，其中洪武年间10次，永乐年间8次。这些移民迁往北京、河北、河南、山东、安徽、江苏、湖北、陕西、甘肃等十余省500多个县市，这样有组织的大规模移民持续了50多年的时间，这是历史上最大的一次迁往河南的迁移运动!
在洪洞县的唐代
广济寺内有一棵古槐，驿道就从古槐的下面经过，于是，明朝政府在广济寺设局驻员集中办理移民，发放川资路费和凭照。
相传移民的时候，老百姓故很多都留恋家乡，不肯迁移，这时明朝政府贴出告示，欺骗百姓说：“不愿迁移者，到
大槐树下等待，须在三天内赶到。愿迁移者，可在家里等待”。
自此还留下了 “问我祖先何处来，山西洪洞大槐树。祖先故里叫什么，大槐树下老鸹窝。”这首民谣数百年来在我国许多地区广为流传。