瓊山歷史悠久,是國家歷史文化名城,素有“瓊臺福地”之美稱。約新石器時代中晚期(距今3000多年)已有人類在此生息。秦朝時瓊山地屬象郡邊陲,漢武帝元封元年(公元前110年)在此建譚都、玳瑁兩縣,屬珠崖郡(郡治地瓊山)。初元三年(前46年)屬合浦郡朱廬縣,建武十九年(公元43年)改為珠崖縣。三國東吳赤烏二年(公元239年)稱朱廬縣。隋朝大業六年(610年)時屬顏廬、舍城兩縣。唐武德五年(公元622年)改顏廬為顏城縣,屬崖州;貞觀元年(公元627年)析舍城縣置瓊山縣,因縣境內白石都(今新民鄉)有一座山名瓊山,又有瓊山、白石兩村,泥土石頭皆白如玉且潤澤,便以山名取縣名,瓊山縣名自此始;貞觀五年(631年)設瓊州,州治位于今舊州鎮。宋開寶四年(971年)移治府城,至清朝,瓊山縣都是瓊州府的所在地,故府城以此得名。自明代瓊州升格為府后至民國初年,瓊山一直是海南島的政治、經濟、文化中心。1950年4月瓊山縣解放,縣政府駐府城,1952年遷往嶺腳,1955年又遷回府城,1958年12月曾并入海口市,1959年11月恢復瓊山縣,1994年1月撤縣設市,2002年10月海口、瓊山行政區劃調整,