平顶山是露出海面的火山岛，后来由于海水长时间的侵蚀，山头部分被“削”平，才形成今天的平顶山。平顶山的“平顶”是当年火山喷发后形成的火山口，由于当时火山口接近海平面，使大量珊瑚在四周繁衍，形成环礁。在漫长的地质历史中，死亡的珊瑚大量堆积在火山口一带，使火山口变平，最后形成了平顶山。
平顶山市处于豫西山地和淮河平原的过渡地带。西部以山地为主，最高山峰位于鲁山县西部边界的尧山，海拔2153.1米。东部以平原为主。在低山和平原之间，分布着高低起伏的丘陵。从北往南看，大体有三列山地夹两组河谷平原。北部是箕山，中部是外方山的东段及平顶山市区以北的落凫山等低山，南部则是伏牛山东段及其余脉。北部夹北汝河冲积平原，南部夹沙河、澧河等冲积平原。其海拔高度大多在300-700米之间，具有西高东低的特征。
