西漢，漢高祖析長(zhǎng)沙郡南部設(shè)桂陽(yáng)郡，置陽(yáng)山縣，屬荊州。

漢獻(xiàn)帝建安十九年（214），孫權(quán)取桂陽(yáng)郡地，遂屬孫權(quán)。

建安二十五年（220），入含洭縣。

吳甘露元年（265），析桂陽(yáng)郡置始興郡，仍屬荊州，以含洭縣之桃鄉(xiāng)置陽(yáng)山縣，屬始興郡。

晉太康元年（280），始興郡隸屬?gòu)V州；永嘉元年（307），改隸屬湘州；咸和三年（328），又改為隸屬荊州。

南朝宋時(shí)，陽(yáng)山縣皆隨郡改屬，曾隸屬?gòu)V州始興郡、湘州始興郡、湘州宋安郡、湘州廣興郡、湘州始興郡。

梁武帝天監(jiān)六年（507），置陽(yáng)山郡、梁樂(lè)郡（今縣境南部，治所失考），屬衡州（治所在含洭）。

陽(yáng)山郡轄含洭、陽(yáng)山、桂陽(yáng)、廣德四縣，梁樂(lè)郡轄梁樂(lè)、洊安兩縣。

陳因之。

隋開(kāi)皇十年（590），平陳，廢陽(yáng)山、梁樂(lè)兩郡，置連州，陽(yáng)山、梁樂(lè)兩縣屬連州。

大業(yè)三年（607），廢連州，置熙平郡，隸屬荊州，陽(yáng)山、宣樂(lè)兩縣屬荊州熙平郡。

大業(yè)十三年（617），宣樂(lè)縣并入陽(yáng)山縣，熙平郡屬蕭銑。

唐武德四年（621），平蕭銑，改熙平郡為連州，陽(yáng)山縣屬連州。

貞觀元年（627），連州屬江西道。

天寶元年（742），改連州為連山郡，隸屬嶺南道。

乾元元年（758），連山郡復(fù)為連州，隸屬湖南道。

大歷三年（768），連州改隸嶺南道。

陽(yáng)山縣俱隨州郡改屬。

五代南漢時(shí)，陽(yáng)山縣屬連州。

宋開(kāi)寶四年（971），平南漢，陽(yáng)山縣屬?gòu)V南東路連州。

元至元十七年（1280），置連州路，陽(yáng)山縣屬連州路。

元至十九年（1282），升桂陽(yáng)縣為桂陽(yáng)州，初隸屬湖南道，后隸屬?gòu)V東道，陽(yáng)山縣屬桂陽(yáng)州。

明洪武二年（1369）四月，廢桂陽(yáng)州，陽(yáng)山縣并入連山縣，屬韶州府。

洪武十四年（1371）十月，廢連山縣，復(fù)置陽(yáng)山縣，屬?gòu)V州府。

洪武十三年（1380）十一月，連山縣從陽(yáng)山縣析出。

洪武十四年（1381），復(fù)置連州，陽(yáng)山縣隸屬?gòu)V州府連州。

清雍正七年（1729），改連州為直隸州，陽(yáng)山縣屬連州直隸州。

1914年，陽(yáng)山縣屬?gòu)V東省嶺南道。

1926年，屬?gòu)V東省北區(qū)。

1936年，改屬?gòu)V東省第二行政區(qū)。

1950年1月，屬?gòu)V東省北江區(qū)。

1952年9月，屬?gòu)V東省粵北行政區(qū)。

1956年3月，屬?gòu)V東省韶關(guān)專區(qū)。

1958年11月，陽(yáng)山縣并入連陽(yáng)各族自治縣，1960年10月，復(fù)置陽(yáng)山縣，均屬?gòu)V東韶關(guān)專區(qū)。

1979年，屬?gòu)V東省韶關(guān)地區(qū)。

1983年6月，屬?gòu)V東省韶關(guān)市。

1988年2月，屬?gòu)V東省清遠(yuǎn)市。