徐州歷史悠久。6000多年前，徐州先民就在這裏生活和勞動。原始社會末期，堯稱彭祖為大國，徐州始稱彭城。
春秋戰國時期，彭城屬宋，後屬楚。秦統壹後，設彭城縣。
楚漢時期，西楚霸王建都彭城。西漢屬楚國，東漢屬彭城國。
三國時期，曹操將徐州刺史遷至彭城，從壹開始就叫徐州。
魏晉南北朝各代都設彭城國或徐州，多在彭城。
隋朝建立徐州，後加彭城為郡，治彭城。
唐初徐州、彭城縣名多次互換，中後期為我省駐地。
五代時，各朝有徐州，治彭城，領7郡。
徐州位於宋元時期，屬貴德府。成員和管轄權經常變化。
明初徐州屬直隸首府鳳陽郡，後屬南直隸。
清初，徐州先後為江南省和江蘇省的直隸州。雍正十壹年(公元1733年)升為徐州府，轄1州7縣。
民國初，徐州府被廢，郭銅山縣隸屬於此。後來設徐海道，統轄銅山(徐州)。
徐州在日偽戰爭時期由銅山縣創建，曾是民國淮海省省會。
民國時期，徐州是國家建設的八大城市之壹。
抗戰勝利後，國民政府仍設立徐州，隸屬江蘇省。三大戰役之壹的淮海戰役就是以徐州為中心展開的。
1949年期間，由於江蘇省解放不徹底，徐州市暫由山東省代管，後轉回江蘇省，徐州特區同時成立。
1955年4月4日，為加強洪澤湖管理，國務院將蕭縣、碭山劃歸蘇州管轄。
1970年，徐州地區更名為徐州地區。
1983年，江蘇撤銷地區專員公署，實行市管縣建制。