在太古代时期，泰山曾经是鲁西巨大沉降带或海槽的一部分，堆积了很厚的泥砂质和基性火山物质。后来经过泰山运动，褶皱隆起成为巨大的山系，同时发生一系列断裂、岩浆活动和变质作用。形成了由各种变质杂岩和岩浆岩组成的泰山杂岩。
古生代初期，华北广大地区大幅度下降，古泰山亦随之沉没到海平面以下，在古老变质杂岩的基底剥蚀面上，沉积了一套近两千米厚的寒武—奥陶纪的石灰岩。中奥陶世末，在加里东运动的影响下，华北地区整体上升为陆。
在中生代期间，于山的南麓产生一条向的泰前断裂，处于断裂北盘的原来古
