南宋咸淳間(1265~1274)屬臨安縣永寧鄉(xiāng),明代屬高樂鄉(xiāng),清乾隆二十四年(1759)大山屬高陸一圖。
民國初屬高慶鄉(xiāng),民國17年(1928)屬高慶區(qū),民國30年(1941)大山、石路、林家塘村屬龍門鄉(xiāng),民國34年(1945)屬古城鄉(xiāng)至解放。
1950年為石門鄉(xiāng)大山村,1956年屬長樂鄉(xiāng),1958年為橫畈公社大山、林家塘生產(chǎn)中隊(duì),1960年分建大山、石路、龍頭舍生產(chǎn)大隊(duì),1972年林家塘大隊(duì)更名為立新大隊(duì),1981年為石門公社大山、石路、龍頭舍、林家塘大隊(duì),1984年為石門鄉(xiāng)大山、石路、龍頭舍、林家塘村,1996年屬高虹鎮(zhèn)。
2001年屬高虹鎮(zhèn)。
2007年村規(guī)模調(diào)整,四村合并為大山村,轄8個(gè)自然村。