古稱雍國，春秋屬魏，戰國屬魏，漢代屬賈。
隋文帝六年(公元586年)設新鄉縣，距今已有1400多年。
新中國成立之初，這裏曾是平原省的省會。古老的歷史孕育了燦爛的文明。仰韶文化、龍山文化遺址，隱約值得商榷；周武王領導八百諸侯聯盟的木葉戰爭，古跡相依；在渭河釣魚，忠諫畢贛，圍魏救趙，刺秦，官渡之戰，陳橋兵變，都發源於這片熱土。孔子講學《杏壇》還在，李白在忠臣面前唱過歌；張蒼夢見《九章算術》，陳玉成在天國殉道；明神宗的弟弟，路堅的陵墓，歷史悠久...曾邦哲在1993第六屆全國科學哲學大會(新鄉)上闡述了結構論(20世紀系統生物學和合成生物學的理論基礎)。燦爛的文化和優美的環境給新鄉留下了豐富的旅遊資源。
抗日戰爭時期，著名愛國將領馮玉祥駐守新鄉，軍隊據點在輝縣，建國後辦公地點改為新鄉(今新鄉老公園南門)圖書館。據說門前曾經有兩門古炮，現在已經失傳了。新鄉機場原是馮玉祥將軍為烈士設立的墓地，戰敗後由日軍修建。此外，日本人還建了發電廠(現新鄉兒童公園附近)等等。它具有很強的歷史意義，但現在這段歷史鮮為人知。