西周時期，新鄭是阿強國。公元前770年，鄭國將都城從仙林遷至今新鄭水房，395年仍為鄭，稱鄭。公元前221年，秦始皇統壹六國，實行郡縣制。為了區別陜西鄭縣，朝鮮鄭縣改為新鄭縣，千年不變。
八千年前的裴李崗文化時期，新鄭率先進入以原始農業為主的氏族社會，是中國古代文明最早的發祥地。
5000年前的仰韶文化中晚期，新鄭是熊國，是黃帝族時代，是中國古代文明形成的核心。
4700年前，龍山文化中期，新鄭是祝融之國。夏商時期，新鄭是夏的都城，也是商的都城。西周時，新鄭為國；春秋時是鄭，戰國時是韓國。鄭和韓國的前首都，是中原地區最重要的政治、軍事、經濟和文化中心，是中原地區最大的工商業大都市。朝鮮設鄭郡，統治朝鮮首都。
秦國統壹六國，建立新鄭、沅陵兩郡，隸屬潁川郡。漢承秦制，屬河南郡。山西設立滎陽郡，新鄭入沅陵郡。東魏建立光武郡，沅陵屬光武郡。隋復新鄭，後棄沅陵，入新鄭郡，仍屬滎陽郡。唐朝分為新鄭郡和清池郡，後清池郡歸新鄭。新鄭縣是五代以後建立的。
1994年5月，經國務院批準，撤縣設市，為新鄭市，隸屬河南省，歸鄭州市管理。