1949年5月,為山灣、西源、張?zhí)、彭山鄉(xiāng)行政區(qū)域,隸屬二、三區(qū)管轄。
1951年,增設(shè)葛洪鄉(xiāng)。
1952年,增設(shè)賀山鄉(xiāng)。
1956年,合并為彭山、葛洪、山灣、賀山鄉(xiāng),同年7月又合并為山灣、吳山二鄉(xiāng),成立葛洪、五臺、紅橋、山灣等初級農(nóng)業(yè)社。
1957年,轉(zhuǎn)為葛洪、五臺、紅橋、林居、蔡河、張?zhí)、山灣七個高級農(nóng)業(yè)社。
1958年,樟樹鄉(xiāng)(為1956年成立)并入,成立山灣人民公社,轄山灣、張?zhí)、吳山、林居、紅橋、葛洪、五臺、竹蓬、楊柳、樟樹、大嶺、蔡河、河鋪13個大隊。
1962年,拆分為山灣、吳山、樟樹三個公社。
1968年,三社又合并為山灣公社。
1972年,樟樹公社析出。
1981年,山灣公社更名為吳山公社。
1984年機構(gòu)改革,撤公社更名為吳山鄉(xiāng)。
2002年,樟樹鄉(xiāng)撤銷并入?yún)巧洁l(xiāng)。
2012年,撤鄉(xiāng)設(shè)鎮(zhèn),為吳山鎮(zhèn)。