汉高祖十二年（前195年）始建平谷县，属渔阳郡。以其县三面环山，中有平原而得名，县治在今山东庄镇大、小北关村南。
后元二年（前87年），汉武帝遗诏封大司马、大将军霍光为博陆侯。封地博陆城即今北城子村东古城遗址。汉光武帝时，迁县治于今平谷城。
后屡经置废，北魏时，又省平谷县入潞县。
唐高祖武德元年（618年），于今平谷设大王镇，属檀州密云县。
金世宗大定二十七年（1187年），升大王镇为平谷（峪）县。
清初，平谷县为顺天府蓟州属县。圣祖康熙二十七年（1688年），设顺天府四路同知后，平谷县属北路厅（同知驻昌平州沙河镇）管辖。
民国三年（1914年），顺天府改京兆地方，平谷为京兆属县。民国十七年（1928年），裁京兆地方，平谷县改隶河北省冀东道。
抗日爆发后，1938年6月八路军第四纵队进入平谷地区，7月打下平谷县城。1943年7月，冀热边特委以盘山为中心建立平三蓟联合县。
民国三十五年（1946年）3月，撤销平三蓟联合县，恢复平谷县建置，全县共分7个区，227个行政村。县委书记鲁夫，县长季宁。
撤销平三蓟联合县时，平谷县从原密云、三河、怀柔、蓟县所辖共划入130个行政村。
其中：
*将三河县东北部的89个村庄划归平谷县管辖，划入村庄数量最多；
*将怀柔县的飞地丫髻山（刘家店镇北部）周边的19个村庄划入平谷县；
*将密云县的飞地梨各庄、杏园、东双营、王官屯等村庄划入平谷县；
丫髻山，位于刘店乡北部，因山巅两块巨石状若古代女孩头上的丫髻，因此得名丫髻山。又称东大山。距东直门70公里。
1950年5月，又从密云县南部划35个村庄给平谷县。平谷县将7个区整合为五个区，共辖259个行政村。
1958年10月20日，平谷县由河北省唐山专区划给北京市管辖。
2002年4月，撤销平谷县，建北京市平谷区。