清康熙年間（1662-1722年），屬漢州水村。

清宣統(tǒng)元年（1909年），設連山鎮(zhèn)。

民國二十九年（1940年），鎮(zhèn)改鄉(xiāng)。

民國三十一年（1942年），鄉(xiāng)改鎮(zhèn)。

1950年，鎮(zhèn)改鄉(xiāng)。

1952年，分為連山鎮(zhèn)和連山鄉(xiāng)。

1953年2月，6個村劃歸龍泉鄉(xiāng)。

1958年，合并為連山公社。

1962年，析置連山鎮(zhèn)。

1979年，連山鎮(zhèn)井入連山公社。

1981年，公社改鄉(xiāng)，析置連山鎮(zhèn)。

1984年，連山鄉(xiāng)并入連山鎮(zhèn)。

2006年，雙泉鄉(xiāng)并入。