根据史料的记载，山东人的祖籍在山西省洪洞县大槐树。
从洪武初年到永乐十五年前后，明政府在山西进行了历时50年，人口达到数十万，迁出面积达到当时我国一半以上国土面积的大规模强制性移民。由于当时明政府把这些移民都集中在洪洞县古大槐树下，进行登记注册后强制带走，所以绝大部分移民后裔都把前辈出发的最后之地洪洞作为外迁之前的祖籍，将这棵大槐树作为祖籍的标记。人们也因此把这次迁徙俗称为山西大槐树迁徙。
