早在幾萬年乃至10萬年前的舊石器時代，就有人類在這塊土地上繁衍生息。距今約六七千年前，平谷先民就創(chuàng)造了光輝燦爛的上宅文化。
夏商周三代，地屬冀州或幽州。劉家河商代墓葬青銅禮器的出土，證明那時平谷地區(qū)的繁榮與發(fā)達(dá)。春秋戰(zhàn)國時，平谷地區(qū)屬燕國之地。戰(zhàn)國后期，燕國置上谷、漁陽等5郡，平谷地區(qū)屬漁陽郡地。秦統(tǒng)一六國，天下分為36郡，平谷地區(qū)依然屬于漁陽郡地。而那時漁陽郡治所，在今密云西南與懷柔東南交界地帶。
西漢時，漢高祖十二年（公元前195年）春，始建平谷縣。
劉秀開創(chuàng)東漢王朝，仍設(shè)漁陽郡。平谷為漁陽郡所轄九縣之一，縣城已遷至今平谷老城處。因北魏初年平谷并入潞縣，故城尚存。三國魏時，仍置平谷縣�！剁茌o通志》中“三國魏”下列了平谷縣。
晉朝初年，省平谷縣，后復(fù)置。新編《平谷縣志》記載西晉初省平谷縣后，地屬燕國潞縣，潞縣為今通州。北魏初，平谷屬漁陽郡，太平真君七年（公元446年）省平谷縣，并入潞縣。
東晉于公元420年亡，南相繼有宋齊梁陳，史稱南朝（公元420—589年）。北有拓跋氏（后改元氏），于公元386年正月建國，初稱代國，至同年四月始改國號為魏，史稱北魏（公元386—534年），公元439年滅北涼，統(tǒng)一北方。后又有東魏（公元534—550年）、北齊（公元550—577年）、西魏（公元535—556年）、北周（公元557—581年）政權(quán)相繼存在，史稱北朝。《魏書·地形志》載：“漁陽郡秦始皇置，真君七年并北平郡屬焉。領(lǐng)縣六，戶六千九百八十四，口二萬九千六百七十�！婢吣瓴矘�、平谷屬焉�！贝颂幱涊d很明確，說明北魏太平真君七年（公元446年）以前平谷縣確實存在，而北魏建國于公元386年，與東晉公元420年滅亡時，兩個政權(quán)并存了34年。如果北魏初年復(fù)置平谷縣，那時東晉政權(quán)依然存在，也就可以理解《畿輔通志》上述的記載了。而《畿輔通志·府廳州縣沿革表》“北魏”中“太平真君七年，省平谷入潞縣”記述，當(dāng)出自《魏書》了�！蹲x史方輿紀(jì)要》認(rèn)為，潞縣北平谷故城，為石趙所置�！笆w”即十六國后趙（公元319—351年），建都鄴城。那些小政權(quán)走馬燈般更迭，多很短暫。如此說來，北魏所省者為后趙的平谷縣了。新編《平谷縣志》“后趙，復(fù)置平谷縣，縣城移至今通縣北小營村，隸漁陽郡”之說，當(dāng)本于此。另外，北魏年間，要陽縣由北內(nèi)遷，城址在今鎮(zhèn)羅營鎮(zhèn)上鎮(zhèn)村，東魏省去。
隋時，平谷地區(qū)隸屬無終縣。民國二十三年（公元1934年）《平谷縣志》也如此寫到：“《隋書·地理志》：無終縣有泃河、洳河。按：一郡只統(tǒng)一縣，泃、洳皆平谷水名，則是時平谷又省入無終矣。”《畿輔通志·府廳州縣沿革表》“隋”中有“漁陽郡，開皇十六年（公元596年）徙置玄州，大業(yè)初改為郡。無終縣，州郡治，大業(yè)末改名漁陽。”
《新唐書》同時記載，設(shè)檀州密云郡，本安樂郡。有大王、北來、保要、鹿固、赤城、邀虜、石子?七鎮(zhèn)。《中國歷史大辭典·歷史地理》有大王鎮(zhèn)詞條：大王鎮(zhèn)，唐代北邊七鎮(zhèn)之一，即今北京市平谷縣。這里，明確說大王鎮(zhèn)就是平谷縣。明隆慶平谷舊志：“唐廢平谷為大王鎮(zhèn)，入漁陽縣�！边|時平谷地區(qū)仍為大王鎮(zhèn)。1984年8月，在平谷舊城塔兒胡同施工時發(fā)現(xiàn)“大王鎮(zhèn)羅漢院建八大靈塔記”碑，現(xiàn)為上宅文化陳列館收藏。此碑于遼重熙十一年（公元1042年）七月立，明確寫著“大王鎮(zhèn)”，可作例證。
明初因元舊制，平谷縣仍為薊州屬縣。
清初，平谷縣仍為順天府薊州屬縣。民國二十三年（公元1934年）《平谷縣志》記載：清康熙十五年（公元1676年），分平谷等縣屬通永道。雍正四年（公元1726年），以通永道專司河務(wù)，平谷改屬霸昌道。乾隆八年（公元1743年），以平谷縣直隸順天府。
1914年（民國三年），改順天府為京兆特別區(qū)，領(lǐng)縣二十，平谷縣為其一。1928年（民國十七年），國民黨政府遷都南京，裁京兆特別區(qū)，劃歸河北，平谷縣改隸河北省冀東道。1932年（民國二十一年）9月，河北省設(shè)薊密行政督察專員區(qū)，下轄平谷。
抗日戰(zhàn)爭時期，八路軍第四縱隊于1938年6月在鎮(zhèn)羅營建密（云）平（谷）薊（縣）聯(lián)合縣，7月打下平谷縣城，建立平谷縣抗日民主政府。中國共產(chǎn)黨領(lǐng)導(dǎo)軍民開展抗日斗爭，于1940年4月建立薊（縣）平（谷）密(云）聯(lián)合縣，隸屬于晉察冀邊區(qū)行政委員會冀東辦事處，7月改屬晉察冀邊區(qū)行政委員會第十三專屬（簡稱第十三專署）。隨著抗日根據(jù)地的擴大，抗日武裝力量的壯大，1940年11月，薊平密聯(lián)合縣一分為二，南部建立薊（縣）寶（坻）三（河）聯(lián)合縣，北部建立平（谷）密（云）興（隆）聯(lián)合縣。為鞏固平密山區(qū)根據(jù)地，并向三河縣發(fā)展，1942年11月，平密興聯(lián)合縣改為平（谷）三（河）密（云）聯(lián)合縣，均屬第十三專員公署。1943年7月，根據(jù)冀熱邊特委“縣劃小，區(qū)劃大”決定，平三密聯(lián)合縣劃分為兩個聯(lián)合縣，北部建立承（德）興（隆）密（云）聯(lián)合縣，南部將薊縣盤山地區(qū)劃入，建立平（谷）三（河）薊（縣）聯(lián)合縣，通稱老平三薊聯(lián)合縣，隸屬于冀熱邊行署第一專署。由于抗日根據(jù)地的恢復(fù)與擴大，1944年7月，平三薊聯(lián)合縣一分為三，西部建立三（河）通（縣）順（義）聯(lián)合縣，西南部建立三（河）通（縣）香（河）聯(lián)合縣，東部仍為平三薊聯(lián)合縣，通稱新平三薊聯(lián)合縣。1944年隸屬關(guān)系未變。1945年1月，冀熱遼行署建立，平三薊聯(lián)合縣隸屬冀熱遼行署第十四專署。這些聯(lián)合縣，抗戰(zhàn)中變動頻繁，縣政府機關(guān)常活動于北部山區(qū)，時無定所。
抗日戰(zhàn)爭勝利后，仍沿用聯(lián)合縣建置。1945年11月，平三薊聯(lián)合縣隸屬于冀東行署第十四專署。1946年3月，撤銷聯(lián)合縣建置，恢復(fù)單一的平谷縣，隸屬關(guān)系未變。1949年8月，河北省人民政府成立，原第十四、十五專區(qū)的部分地區(qū)合并為通縣專區(qū)，平谷縣隸屬于河北省通縣地區(qū)行政督察專員公署。
新中國成立后，平谷縣仍隸屬河北省通縣專署。1958年3月，通縣專署撤銷，平谷縣改屬河北省唐山專署。同年10月20日，平谷縣劃歸北京市。2002年4月，平谷縣撤縣建區(qū)，揭開新的歷史篇章。