嶗山地區(qū)夏、商、西周為萊夷地。

春秋時屬東萊，戰(zhàn)國時期屬齊國。

秦始皇帝二十六年（前221），置瑯琊郡（后置膠東郡），嶗山地區(qū)屬之。

西漢時設(shè)不其縣，轄嶗山境，屬瑯琊郡。

東漢建武六年（30），于不其縣境內(nèi)置不其侯國。

東漢光和年間（178—183）至三國時期，不其縣屬東萊郡。

晉咸寧三年（277）至南北朝時期，屬長廣郡，郡治設(shè)不其城。

北齊天保七年（556），廢不其縣，其地并入長廣縣。

隋開皇十六年（596），不其縣故地并入即墨縣，至清光緒二十四年（1898），嶗山境域均屬即墨縣，其中明洪武二十一年（1388）置鰲山衛(wèi)，境內(nèi)軍戶屬之；清雍正十二年（1734）裁鰲山衛(wèi)，歸并于即墨縣。

清光緒二十三年(1897)前屬即墨縣鄉(xiāng)區(qū)。

清光緒二十四年（1898）3月6日，德國逼迫清政府簽訂中德《膠澳租借條約》，白沙河以南、磚塔嶺以西的嶗山地區(qū)劃入租借地。

1914年11月，日本取代德國侵占青島，嶗山地區(qū)被日軍侵占。

1922年12月10日，中國收回青島主權(quán)，設(shè)膠澳商埠督辦公署，嶗山地區(qū)屬之。

中華民國十八年1929年7月，南京國民政府將膠澳商埠政區(qū)改為青島特別市，嶗山地區(qū)屬之。

1935年7月1日，青島市郊擴(kuò)大，將屬即墨縣的嶗山東部地區(qū)劃歸青島市；沿新界以南區(qū)域設(shè)立青島市鄉(xiāng)區(qū)，轄李村、嶗東、嶗西、夏莊、陰島5個區(qū)，直屬青島市管轄。

1938年1月10日，嶗山地區(qū)再次被日軍侵占。

1945年8月，日本投降，南京國民政府接收青島，嶗山地區(qū)屬青島市。

1949年5月，嶗山行政辦事處（縣級），其轄區(qū)隸屬膠東行政區(qū)南海專區(qū)。

人民解放軍接管青島，設(shè)南海專署嶗山行政辦事處，轄流亭、夏莊、惜福鎮(zhèn)、王哥莊、返嶺、沙子口、南宅科、烏衣巷等8個區(qū)。

1950年5月，改屬膠州專區(qū)。

1951年6月，嶗山行政辦事處劃歸青島市，將青島市李村區(qū)、浮山區(qū)，四滄區(qū)5個村、即墨縣10個村、即東縣4個村劃入嶗山行政辦事處，設(shè)立流亭、夏莊、惜福鎮(zhèn)、嶗東、嶗西、烏衣巷、浮山、李村、樓山9個區(qū)；同年10月，行政辦事處遷至李村。

1953年6月，改為青島市嶗山郊區(qū)；撤銷浮山區(qū)，其5個村劃歸嶗西區(qū)，6個村劃歸李村區(qū)，10個村劃入市南區(qū)。

1956年7月，撤銷8個區(qū)建制，改建為32個大鄉(xiāng)；嶗東區(qū)作為派出機(jī)構(gòu)，代管王哥莊、山河、臺上、返嶺、山海5個鄉(xiāng)。

1958年9月，撤銷鄉(xiāng)建制，嶗山區(qū)成立李村、惜福鎮(zhèn)、王哥莊、夏莊、仙家寨、北宅、中韓、沙子口等8個人民公社。

1961年3月，將即墨縣的棘洪灘、城陽、馬哥莊、河套、紅島5個公社劃歸嶗山郊區(qū)；同年6月，小管島劃歸即墨縣；同年10月，設(shè)立嶗山縣。

1962年11月，仙家寨公社的13個村組成樓山公社。

1966年11月，大管島劃歸即墨縣。

1979年1月和1983年9月，李村公社的3個村先后劃歸滄口區(qū)。

1984年4月，縣所屬13個公社改為鄉(xiāng)鎮(zhèn)。

1988年11月，經(jīng)國務(wù)院批準(zhǔn)，撤銷嶗山縣，設(shè)立青島市嶗山區(qū)，以原嶗山縣的行政區(qū)域?yàn)閸魃絽^(qū)的行政區(qū)域，轄李村鎮(zhèn)、城陽鎮(zhèn)、流亭鎮(zhèn)、夏莊鎮(zhèn)、惜福鎮(zhèn)、棘洪灘鎮(zhèn)、上馬鎮(zhèn)、中韓鎮(zhèn)、沙子口鎮(zhèn)、王哥莊鎮(zhèn)、紅島鄉(xiāng)、河套鄉(xiāng)、北宅鄉(xiāng)13個鄉(xiāng)鎮(zhèn)和李村街道。

“嶗山區(qū)”作為行政區(qū)劃地名由此正式啟用。

1991年1月，紅島、河套、北宅3個鄉(xiāng)撤鄉(xiāng)設(shè)鎮(zhèn)。

1992年4月，中韓鎮(zhèn)被青島市人民政府劃為青島高科技工業(yè)園。

1994年4月，經(jīng)國務(wù)院批準(zhǔn)，青島市市區(qū)行政區(qū)劃作重大調(diào)整，設(shè)立新的嶗山區(qū)，將嶗山區(qū)李村鎮(zhèn)的楊家群、河馬石、夾嶺溝、曲家庵4個村和中韓鎮(zhèn)浮山后、埠西2個村（七號線以西的區(qū)域）劃歸市北區(qū)；李村鎮(zhèn)張村河以北的區(qū)域劃歸李滄區(qū)；李村鎮(zhèn)的河崖、后臺、小水清溝、河西、華光、大山、小河西、保兒、保兒西山、雙山10個村劃歸四方區(qū)；將城陽、惜福、夏莊、流亭、棘洪灘、上馬、紅島、河套8個鎮(zhèn)劃歸城陽區(qū)；調(diào)整后，實(shí)行嶗山區(qū)與青島高科技工業(yè)園合一的管理體制，轄中韓、沙子口、北宅、王哥莊4個鎮(zhèn)。

1998年5月，撤鎮(zhèn)設(shè)街道，轄中韓、沙子口、王哥莊、北宅4個街道，139個農(nóng)村社區(qū)。

2017年4月，撤銷中韓街道，以遼陽東路為界，分設(shè)為金家?guī)X街道和新的中韓街道；金家?guī)X街道轄28個社區(qū)，中韓街道轄21個社區(qū)。

2018年底嶗山區(qū)轄金家?guī)X、中韓、沙子口、王哥莊、北宅等5個街道、139個農(nóng)村社區(qū)、23個城市社區(qū)。