周元王六年(前 476 )置中牟邑,中牟城北五里有牟山,高僅丈余,綿延數十里。據《大清一統志》:“邑之得名于此。”高祖十二年(前195),單父圣封中牟共侯,為侯國。武帝元鼎五年(前112)廢侯國為中牟縣。屬河南郡。東漢、曹魏因之。西晉(265—317 年)中牟屬滎陽郡。懷帝永嘉四年(310 年)后,淪于十六國中的前后趙等國。南朝宋,北魏仍屬滎陽郡。 東為天平初(534 年)為廣武郡治所。北齊天保七年(556 年),復屬滎陽郡。北周武帝保定五年(565 年)遷縣治于圃田。隋開皇元年(581 年)為避文帝父諱,改中牟為內牟。三年,屬鄭州。
十八年改內牟為圃田,大業二年(606 年)移圃田治于中牟城。三年,屬滎陽郡。唐武德元年(618 年)改圃田為中牟。三年為牟州治所。四年,屬管州。貞觀元年(627 年)廢管州,撤清池縣,入中牟,中牟改屬汴州。龍朔二年(662 年)改屬滎陽郡。后梁割中牟屬開封府。后唐同光三年(925 年)還中牟于鄭州。后晉晉中牟又屬東京汴州。北宋屬開封府。金屬南京開封府。元屬汴梁路。明清仍屬開封府。 1913年屬豫東道。1928年直屬河南省。1932年屬河南省第一 行政督察區。1949年屬陳留專區。1952 年6 月,鄭州、陳留專區合并稱鄭州專區,中牟屬之。是年鄭州專區改稱開封專區。1970年屬開封地區。1983年7月,改屬鄭州市至今未變。