新鄭在上古稱“有熊”,軒轅黃帝在此建都。帝嚳時代,新鄭為祝融氏之國。西周時期,新鄭為鄶國。公元前770年,鄭國將國都從咸林遷到今新鄭溱洧水間,仍為鄭,歷395年,稱鄭。公元前375年,韓哀侯滅鄭,將國都自陽翟遷于鄭城。韓在此立都長達145年。韓人都鄭后在此設鄭縣,治所在外廓城內。公元前221年,秦始皇統一六國,實行郡縣制。為了區別陜西之鄭縣,將韓之鄭縣改為新鄭縣,從此沿用千年不改。
夏、商時,新鄭屬豫州。春秋,新鄭屬鄭國,為國都。
戰國,新鄭屬韓國,韓滅鄭后仍以新鄭為國都。秦王政十七年(前230),秦滅韓,二十六年(前221),置新鄭、苑陵二縣,屬潁川郡。漢承秦制,新鄭縣、苑陵縣屬司隸部河南郡。新朝改苑陵縣為左亭縣,治所苑陵。東漢建安十七年(212),復改左亭縣為苑陵縣,與新鄭縣均屬司隸校尉部河南尹。三國,河南屬魏。新鄭、苑陵屬司州河南尹。晉泰始二年(226),設滎陽郡,新鄭并入苑陵縣,治所苑陵,屬司州滎陽郡。東魏天平初年,分滎陽郡,設廣武郡,苑陵縣屬北豫州廣武郡。北齊、北周,苑陵縣改屬滎州。隋開皇十六年(596),恢復新鄭縣,隋煬帝大業初年,廢苑陵縣,并入新鄭縣,治所新鄭,屬豫州滎陽郡。唐武德四年(621),分新鄭縣為新鄭、清池二縣,屬管州。唐貞觀元年(627),清池縣并入新鄭縣,治所新鄭,屬河南道鄭州滎陽郡。五代,新鄭縣屬鄭州。宋熙寧五年(1072),廢鄭州,新鄭縣屬開封府。宋元豐八年(1085),恢復鄭州,新鄭縣改屬鄭州。金,新鄭縣屬南京路鈞州。元,設行中書省,新鄭縣屬河南省汴梁路。明初,新鄭縣屬鈞州,隆慶五年(1571),改屬河南開封府。清初,新鄭屬鈞州。雍正二年(1724),鈞州改禹州,新鄭屬河南禹州。雍正十三年(1735),升許州為府,新鄭改屬許州府。乾隆六年(1741),又屬開封府。中華民國2年,新鄭縣屬豫東道。民國3年,豫東道改名開封道,新鄭縣屬開封道。民國16年(1927),廢道,改設行政區,縣署改為縣政府,新鄭縣屬第一行政督察區。中華人民共和國成立后,新鄭縣屬鄭州專區。1955年改屬開封專區,1958年屬鄭州市,1961年屬開封地區行政公署,1983年又改屬鄭州市。1994年5月16日,中華人民共和國民政部民行批(1994)79號文批復:“經國務院批準,同意撤銷新鄭縣,設立新鄭市(縣級),以原新鄭縣的行政區劃為新鄭市的行政區劃”。