汕尾市歷史悠久,源遠流長。據東南沿海出土文物考證,新石器時代就有先民在此漁獵種植,生息繁衍。汕尾全境屬《禹貢》所稱九州中的揚州南境;《周禮·夏官·職方》稱為藩服之地;春秋屬南越,戰國入楚稱百越;秦至漢初,屬南海郡博羅縣地域。漢元鼎六年(公元前111年)漢平南越,置海豐縣,為汕尾地區有縣級建置的開始,距今已有2110年。時海豐縣隸屬東官郡,轄地包括汕尾市全境及惠來、普寧、揭西之部分地區。隋文帝開皇十一年(591年),東官郡與梁化郡等并置為循州,海豐縣改屬循州;唐高祖武德五年(622年),析海豐縣東部置安陸縣,安陸縣治設在大安屯(今陸豐市大安鎮轄地),轄今之陸豐市、陸河縣及惠來、普寧、揭西之一部。至唐太宗貞觀元年(627年),廢安陸縣,并復海豐縣,仍隸屬循州。五代十國時期,循州改為禎州,汕尾隨屬禎州。宋開寶四年(971年)設廣南東路禎州,天禧五年(1021年),因避太子趙禎(后即仁宗)名諱,改禎州為惠州,時海豐、博羅、河源、歸善(今惠東)四縣均屬廣南東路惠州。海豐縣轄興賢、金錫、楊安、石塘、石帆、吉康、坊廓、龍溪等8都。元代,汕尾地區屬江西行中書省廣東道惠州路;明代屬廣東布政使司惠州府;清代屬廣東省惠州府;清雍正九年(1731年),析海豐縣東部之石帆、坊廓、吉康三都置陸豐縣。縣治在東海(今陸豐市東海鎮),海豐、陸豐兩縣同屬惠州府。民國初年,隸屬廣東省潮循道,民國19年(1930年),隸屬廣東省第4行政督察區。
中華人民共和國成立后,海豐、陸豐均屬東江專員公署管轄;1953年改屬粵東行政公署;1957年隸屬惠陽專員公署;1958年12月劃歸汕頭地區專員公署;1983年9月,歸屬惠陽地區專署管轄。1988年1月,經國務院批準,在原海豐、陸豐兩縣的行政區域上設置地級汕尾市,并析海豐縣南部沿海的汕尾、紅草、馬宮、東涌、田墘、捷勝、遮浪7個鎮建置市城區;析陸豐縣北部山區的河田、河口、新田、螺溪、水唇、上護、南萬、東坑等8個鎮設置陸河縣;市政府駐市城區。1992年底,在市城區田墘鎮、遮浪鎮設立紅海灣經濟開發試驗區。1995年,在陸豐所轄的華僑農場設立華僑管理區(以上兩區行政區劃仍屬市城區和陸豐市)。1995年,經國務院批準,陸豐撤縣建市(縣級市),由省政府直轄,委托汕尾市人民政府代管。