徐州历史悠久，6000多年前，徐州的先民就在此生息劳作。原始社会末期，尧封彭祖于今市区所在地，为大彭氏国，徐州称彭城自始起，有2500多年建城史，是江苏境内最早出现的城邑。夏禹治水时，把全国疆域分为九州，徐州即为九州之一。当时“徐州”只是作为一个自然经济区域的名称，彭城邑成为这一区域的中心城市。春秋战国时，彭城属宋，后归楚，秦统一后设彭城县。楚汉时，西楚霸王建都彭城。西汉设彭城郡，东汉设彭城国、都彭城。三国时，曹操迁徐州刺史部于彭城，彭城自始称徐州。魏晋南北朝各代曾设彭城国或徐州，都城或治所多在彭城。隋时设徐州，后改彭城郡，治彭城。唐初，徐州与彭城郡名称多次互易，中后期徐州为节度使驻地。五代时各朝置有徐州，治彭城，领7县。宋元两朝都置徐州，隶属和辖领变化较频。明初徐州曾直隶京师，后属南京。