漢高祖十二年（前195年）始建平谷縣，屬漁陽郡。以其縣三面環山，中有平原而得名，縣治在今山東莊鎮大、小北關村南。
後元二年（前87年），漢武帝遺诏封大司馬、大将軍霍光為博陸侯。封地博陸城即今北城子村東古城遺址。漢光武帝時，遷縣治于今平谷城。
後屢經置廢，北魏時，又省平谷縣入潞縣。
唐高祖武德元年（618年），于今平谷設大王鎮，屬檀州密雲縣。
金世宗大定二十七年（1187年），升大王鎮為平谷（峪）縣。
清初，平谷縣為順天府薊州屬縣。聖祖康熙二十七年（1688年），設順天府四路同知後，平谷縣屬北路廳（同知駐昌平州沙河鎮）管轄。
民國三年（1914年），順天府改京兆地方，平谷為京兆屬縣。民國十七年（1928年），裁京兆地方，平谷縣改隸河北省冀東道。
抗日爆發後，1938年6月八路軍第四縱隊進入平谷地區，7月打下平谷縣城。1943年7月，冀熱邊特委以盤山為中心建立平三薊聯合縣。
民國三十五年（1946年）3月，撤銷平三薊聯合縣，恢複平谷縣建置，全縣共分7個區，227個行政村。縣委書記魯夫，縣長季甯。
撤銷平三薊聯合縣時，平谷縣從原密雲、三河、懷柔、薊縣所轄共劃入130個行政村。
其中：
*将三河縣東北部的89個村莊劃歸平谷縣管轄，劃入村莊數量最多；
*将懷柔縣的飛地丫髻山（劉家店鎮北部）周邊的19個村莊劃入平谷縣；
*将密雲縣的飛地梨各莊、杏園、東雙營、王官屯等村莊劃入平谷縣；
丫髻山，位于劉店鄉北部，因山巅兩塊巨石狀若古代女孩頭上的丫髻，是以得名丫髻山。又稱東大山。距東直門70公裡。
1950年5月，又從密雲縣南部劃35個村莊給平谷縣。平谷縣将7個區整合為五個區，共轄259個行政村。
1958年10月20日，平谷縣由河北省唐山專區劃給北京市管轄。
2002年4月，撤銷平谷縣，建北京市平谷區。