西周初，繼神農之後的姜姓交國，遷居於此。
春秋初期，交國為陳國所滅，此地屬陳國，陳國在此建交城。公元前478年，楚國滅陳國，建譙。
秦時設譙縣、成府縣，譙縣屬黨縣、成府縣，大部分地區屬泗水縣。
漢代，亳州先後隸屬於禹州、裴軍和郭培。建安末年，設立譙縣。
魏帝二年(221)，譙縣定為“都”，與許昌、長安、洛陽、葉並稱“五都”。
西晉時，在此設國，郡為治所。
北魏四年(507)被南兗州統治。
北周象元年(579)，南兗州改亳州，行署不變。亳州之名始於此。
隋大業三年(607)，亳州改為喬縣。
唐武德四年(621)，喬縣改稱亳州，轄喬縣(今譙城區)、山桑縣(今蒙城縣)、成府縣(今渦陽縣西北)、臨渙縣(今河南永城)、贊縣(今河南省)
宋代亳州屬淮南路，晉代屬南京路，轄6縣5鎮。
元朝時，亳州屬歸德府(今商丘)，轄六縣。元朝(15)，劉福通反叛元朝，在亳州以韓林兒為帝，建立“漢宋”政權，定都亳州。
明初，亳州曾是壹郡，隸屬潁州。弘治九年(1496)，縣升為州。
清初，亳州直屬於安徽外交部管轄。1864年，清廷鎮壓撚軍後，在譙縣、蒙城縣、阜陽縣建立渦陽郡。
1912年，國民政府將亳州降為亳縣，由省直接管轄。
1964年，國務院決定阜陽、楊過、蒙城、鳳臺各劃出壹個，設立利辛縣。
1986，國務院決定撤銷亳州縣建制，設立亳州市(縣級)。
1998，收歸省(副地級)。
2000年，亳州市正式成立，轄楊過、蒙城、利辛、譙城區。