春秋時期為楚之南疆。

秦屬長沙郡。

西漢屬零陵郡泉陵侯國。

東漢屬泉陵縣。

三國東吳孫亮太平二年（257），分泉陵縣，置祁陽縣和永昌縣，仍屬零陵郡。

晉永嘉元年（307），由荊州改屬湘州零陵郡。

南北朝時期，祁陽隸屬關(guān)系未有重大改變。

隋開皇九年（589），祁陽、永昌并入零陵縣，隸屬湘州永州總管府。

唐武德四年（621），析零陵縣復置祁陽縣。

五代時隸屬江南西道永州零陵郡。

宋代屬荊湖南路永州零陵郡。

元代屬湖南道宣慰司永州路。

明代屬湖廣承宣布政使司永州府。

清代屬湖南省衡永郴桂道永州府。

1914年，祁陽屬衡陽道。

1920年，祁陽直屬省轄。

1937年12月，祁陽屬湖南省第九行政督察專員公署。

1949年10月，祁陽縣解放，屬永州專區(qū)專員公署。

1952年2月，析祁陽縣為祁陽、祁東2縣。

1983年7月，屬零陵地區(qū)專員公署。

1995年5月，撤區(qū)并鄉(xiāng)建鎮(zhèn)，設立20個鎮(zhèn)。

2021年1月20日，撤銷祁陽縣，設立祁陽市。