夏、商時屬揚州。
西周至春秋時先后屬弦國、黃國。
戰(zhàn)國時先后屬秦弦地、楚國。
秦代屬九江郡。
漢代屬江夏郡。
三國時屬魏國弋陽郡。
晉代屬豫州弋陽郡。
南北朝時先后屬豫州弋陽郡、光城左郡、光州、沙州、豫州廣陵郡、弋州弋陽郡。
隋代屬光州光山縣。
明代屬光山縣西鄉(xiāng)青山里。
清代屬光山縣西鄉(xiāng)青山里潘殷沖保。
1930年屬弦西區(qū)。
1932年10月劃歸經(jīng)扶縣白居區(qū)。
1941年屬白居鄉(xiāng)。
1947年10月復屬白居區(qū)。
1947年12月屬新縣白居區(qū)。
1949年7月屬沙城區(qū)何山鄉(xiāng)。
1953年4月屬四區(qū)。
1955年10月復屬沙城區(qū)。
1958年5月屬卡房鄉(xiāng)。
1958年8月屬英雄人民公社王畈生產(chǎn)大隊。
1960年屬卡房人民公社。
1961年8月從王畈生產(chǎn)大隊中分出,置何山生產(chǎn)大隊。
1983年5月更名為何山村民委員會,屬卡房鄉(xiāng)。