秦朝，秦始皇派兵攻取南越，在嶺南設(shè)置南海、桂林、象郡，今開(kāi)平地（以下簡(jiǎn)稱開(kāi)平）隸屬南�？しh。
漢武帝元封五年（前106），天下分為13州，開(kāi)平隸屬交州合浦郡臨允縣。
三國(guó)吳黃武五年（226），從交州分出南海、蒼梧、郁林、高涼4郡設(shè)立廣州，開(kāi)平分屬?gòu)V州蒼梧郡臨允縣、南�？て揭目h。
晉武帝太康元年（280），天下分為19州，開(kāi)平分屬?gòu)V州新寧郡臨允、新興、新夷縣，南�？づ柙�、封平縣。南朝宋，設(shè)22州，開(kāi)平分屬?gòu)V州新寧郡臨允、新興縣，新會(huì)郡新夷、盆允、封平、封樂(lè)、義寧、初賓、始康縣。南朝梁，割廣州新寧一郡立新州，開(kāi)平分屬新州新寧郡新興縣，廣州新會(huì)郡新夷、盆允、封平、封樂(lè)、義寧、初賓、始康縣。南朝陳，開(kāi)平行政隸屬與南朝梁相同。
隋開(kāi)皇三年（583）將諸郡改為州。大業(yè)三年（607）又改州為郡，開(kāi)平分屬信安郡新興縣，南海郡新會(huì)、義寧縣。
唐貞觀元年（627）設(shè)10道。開(kāi)元二十一年（733）又分為15道，道下設(shè)州，開(kāi)平分屬嶺南道新州新興縣，岡州新會(huì)、義寧縣。五代（南漢），開(kāi)平分屬新州新興縣，興王府新會(huì)、義寧縣。
宋太宗至道三年（997），設(shè)15道，開(kāi)平分屬?gòu)V南東路新新州興縣、廣州新會(huì)縣。
元朝，開(kāi)平分屬江西等處行中書(shū)省新州新興縣、廣州路新會(huì)縣。
明洪武九年（1376），改行中書(shū)省為布政司，開(kāi)平分屬?gòu)V東布政司肇慶府新興縣、恩平縣，廣州府新會(huì)縣。
南明永歷三年/清順治六年（1649），開(kāi)平立縣，隸屬肇慶府。民國(guó)初期，開(kāi)平縣仍按清制隸屬肇慶府。
民國(guó)3年（1914），隸屬粵海道。民國(guó)9年（1920），撤銷道制，只留省縣級(jí)行政建制。民國(guó)17年（1928），隸屬西江善后委員公署。民國(guó)25年（1936）10月，隸屬?gòu)V東省第一行政督察區(qū)。民國(guó)38年（1949）4月，改屬?gòu)V東省第十行政區(qū)。
共和國(guó)成立后1949年10月，隸屬粵中專區(qū)。1952年5月，劃入粵西行政區(qū)。1956年1月，撤銷粵西行政區(qū)，開(kāi)平縣劃歸佛山專區(qū)。1958年12月，改屬江門專區(qū)。1961年2月，屬肇慶專區(qū)。1963年9月，再次劃歸佛山專區(qū)（1968年1月改專區(qū)為地區(qū)）。
1983年5月，改屬江門市。1993年1月5日，撤銷開(kāi)平縣，設(shè)立開(kāi)平市。1999年6月21日，將開(kāi)平市人民政府駐地由三埠街道長(zhǎng)沙沿江東路135號(hào)遷至長(zhǎng)沙街道長(zhǎng)沙光華路1號(hào)。
2000-2002年，開(kāi)平市轄3個(gè)街道（三埠、長(zhǎng)沙、沙岡）、15個(gè)鎮(zhèn)（水井、月山、水口、赤水、東山、金雞、蜆岡、百合、赤坎、塘口、大沙、馬岡、龍勝、蒼城、沙塘）。2004年，水井鎮(zhèn)并入月山鎮(zhèn)，東山鎮(zhèn)并入赤水鎮(zhèn)。2005年5月，開(kāi)平市轄3個(gè)街道（長(zhǎng)沙、三埠、沙岡）、13個(gè)鎮(zhèn)（月山、水口、赤水、金雞、蜆岡、百合、赤坎、塘口、大沙、馬岡、龍勝、蒼城、沙塘）。2005年7月28日，撤銷沙岡街道辦事處，并入水口鎮(zhèn)。新水口鎮(zhèn)全鎮(zhèn)總面積為80.5平方千米，總?cè)丝?.4萬(wàn)人，另有外來(lái)人口2萬(wàn)多人。