秦朝，秦始皇派兵攻取南越，在嶺南設置南海、桂林、象郡，今開平地（以下簡稱開平）隸屬南海郡番禺縣。
漢武帝元封五年（前106），天下分為13州，開平隸屬交州合浦郡臨允縣。
三國吳黃武五年（226），從交州分出南海、蒼梧、郁林、高涼4郡設立廣州，開平分屬廣州蒼梧郡臨允縣、南海郡平夷縣。
晉武帝太康元年（280），天下分為19州，開平分屬廣州新寧郡臨允、新興、新夷縣，南海郡盆允、封平縣。南朝宋，設22州，開平分屬廣州新寧郡臨允、新興縣，新會郡新夷、盆允、封平、封樂、義寧、初賓、始康縣。南朝梁，割廣州新寧一郡立新州，開平分屬新州新寧郡新興縣，廣州新會郡新夷、盆允、封平、封樂、義寧、初賓、始康縣。南朝陳，開平行政隸屬與南朝梁相同。
隋開皇三年（583）將諸郡改為州。大業三年（607）又改州為郡，開平分屬信安郡新興縣，南海郡新會、義寧縣。
唐貞觀元年（627）設10道。開元二十一年（733）又分為15道，道下設州，開平分屬嶺南道新州新興縣，岡州新會、義寧縣。五代（南漢），開平分屬新州新興縣，興王府新會、義寧縣。 宋太宗至道三年（997），設15道，開平分屬廣南東路新新州興縣、廣州新會縣。
明洪武九年（1376），改行中書省為布政司，開平分屬廣東布政司肇慶府新興縣、恩平縣，廣州府新會縣。
南明永歷三年/清順治六年（1649），開平立縣，隸屬肇慶府。民國初期，開平縣仍按清制隸屬肇慶府。
民國3年（1914），隸屬粵海道。民國9年（1920），撤銷道制，只留省縣級行政建制。民國17年（1928），隸屬西江善后委員公署。民國25年（1936）10月，隸屬廣東省第一行政督察區。民國38年（1949）4月，改屬廣東省第十行政區。
共和國成立后1949年10月，隸屬粵中專區。1952年5月，劃入粵西行政區。1956年1月，撤銷粵西行政區，開平縣劃歸佛山專區。1958年12月，改屬江門專區。1961年2月，屬肇慶專區。1963年9月，再次劃歸佛山專區（1968年1月改專區為地區）。
1983年5月，改屬江門市。1993年1月5日，撤銷開平縣，設立開平市。1999年6月21日，將開平市人民政府駐地由三埠街道長沙沿江東路135號遷至長沙街道長沙光華路1號。
2000-2002年，開平市轄3個街道（三埠、長沙、沙岡）、15個鎮（水井、月山、水口、赤水、東山、金雞、蜆岡、百合、赤坎、塘口、大沙、馬岡、龍勝、蒼城、沙塘）。2004年，水井鎮并入月山鎮，東山鎮并入赤水鎮。2005年5月，開平市轄3個街道（長沙、三埠、沙岡）、13個鎮（月山、水口、赤水、金雞、蜆岡、百合、赤坎、塘口、大沙、馬岡、龍勝、蒼城、沙塘）。2005年7月28日，撤銷沙岡街道辦事處，并入水口鎮。新水口鎮全鎮總面積為80.5平方千米，總人口8.4萬人，另有外來人口2萬多人。
