唐武德元年(618年),設(shè)平陵縣(今關(guān)山粟邑廟附近)。
唐武德二年(619年),改平陵縣為粟邑縣。
唐武德年間,粟邑縣屬雍州。
唐貞觀八年(634年),撤粟邑縣并入櫟陽縣。
元至元四年(1267年),隨櫟陽縣并入臨潼縣。
明萬歷五年(1577年),設(shè)立關(guān)山鎮(zhèn),為撫民廳駐地。
清雍正八年(1730年),臨潼縣丞移駐關(guān)山。
清嘉慶元年(1796年),設(shè)縣丞署。
民國二年(1913年),設(shè)縣佐署。
民國八年(1919年),設(shè)臨潼分縣,管理臨潼縣渭水以北各鎮(zhèn)事務(wù)。
民國十九年(1930年),分縣廢。
民國二十三年(1934年),推行保甲制度,關(guān)山設(shè)立聯(lián)保處。
民國二十九年(1940年),改聯(lián)保為鎮(zhèn),下轄6保64甲。
1949年5月,改為臨潼縣關(guān)山區(qū)。
1950年4月,設(shè)立臨潼縣第八區(qū),轄7鄉(xiāng)。
1958年,為相橋公社關(guān)山管理區(qū)。
1961年,撤銷管區(qū),成立關(guān)山公社。
1984年,改設(shè)關(guān)山鄉(xiāng)。
1987年8月,關(guān)山鄉(xiāng)劃歸西安市閻良區(qū)管轄。
1997年7月,撤銷關(guān)山鄉(xiāng),設(shè)立關(guān)山鎮(zhèn)。
2002年2月,撤銷康橋鄉(xiāng),并入關(guān)山鎮(zhèn)。