唐景龍三年（709年），縣治遷白茅鎮(zhèn)。

民國二十五年（1936年）7月，易名義安鎮(zhèn)。

民國三十五年（1946年），更名安石鎮(zhèn)。

1949年10月，衡山解放，屬一區(qū)。

1950年3月，改名城關鎮(zhèn)。

1953年，升為縣屬鎮(zhèn)。

1958年9月，與長安鄉(xiāng)、石橋鄉(xiāng)合并，成立長江人民公社。

1961年3月，從長江人民公社析出，設城關鎮(zhèn)人民公社。

1984年5月，金龍鄉(xiāng)并入，恢復城關鎮(zhèn)名。

1995年5月，更名開云鎮(zhèn)。

2005年10月，師古鄉(xiāng)并入。