西晉泰始二年(266年)于風陽川（今城關(guān)鎮(zhèn)）置豐陽縣，屬上洛郡。

東晉時縣廢。

南朝宋于縣境西北僑設(shè)陽亭縣，南齊撤銷。

北魏太安二年(456年)于豐陽川復(fù)設(shè)豐陽縣，屬上庸郡。

隋仍為豐陽，屬上洛郡。

唐為豐陽縣，歸山南西道商州屬。

北宋為豐陽縣，歸永興軍路商洛屬。

金初為豐陽縣，貞元二年(1154年)降為豐陽鎮(zhèn)，并入上洛縣，屬京兆府路商州。

元初復(fù)置豐陽縣，先屬安西路，后屬奉元路。

明初仍置豐陽縣，后降縣為巡檢司，屬商州。

明成化十二年(1476年)十二月，復(fù)置縣，改名山陽縣，歸西安府商州屬。

清初屬西安府，后改屬商州。

民國初屬漢中道，1933年直屬陜西省。

1935年屬第四行政督察區(qū)。

1950年屬商洛專區(qū)。

1950年5月屬商洛專區(qū)。

1969年屬商洛地區(qū)。

2001年8月屬商洛市管轄。