平頂山舞鋼市地處中原，曆史悠久。八台鄉趙案莊、廟街和棗林村南崗，均發現有龍山文化遺址。其中棗林南崗遺址為新石器遺址。早在原始社會晚期就有人類在十七繁衍生息。
西周時這裡為柏子國,傳說中的古帝柏皇氏的後代就封在這裡。柏皇氏的記載見于《漢書、古今人表》,在太昊帝伏羲氏後,依次排列有女娲氏、共工氏、容成氏、大廷氏、柏皇氏、中央氏等。據《河南通志》載:“柏,子爵,皇氏裔。亮父為颛帝師,招為帝喾師,景為周太樸，皆柏族也。今汝西平縣即其地。”周室東遷進入春秋時代,這裡仍為柏子國。《晉書·地理志》載:“春秋之初尚有千二百國”，據《水經注》和《讀史方輿記要》記載:柏國故城在今伊集鄉謝古洞村一帶。這處古城遺址，以謝古洞村為中心，南至謝山北麓,北至郭莊,東至清涼寺,西至田崗水庫中央,面積約2平方公裡。《左傳·魯僖公五年(公元前 655 年)》載:“江黃道柏,方睦于齊。”這是柏國曆史的最早記載。柏國當時和齊結盟，對抗楚國。到魯昭公十一年(前 531 年)時,“楚子城陳(今淮陽)蔡(今上蔡)、不羹(今舞陽東北)”。至遲在這時,柏國為楚所并,成為楚國的一部分。楚國當時修建的“方城”就從方城縣與葉縣的邊界一帶向東南傾斜，經過今舞鋼市境西南部尚店一帶。
戰國初年，為楚國疆城。戰國末期舞鋼市境屬于南韓，稱合赙，也作合伯。韓宣王(公元前 332-前 312 年)時，著名縱橫家蘇秦遊說南韓，向宣王說：“韓卒之劍戟皆于冥山、棠溪、墨陽、合赙、鄧師、宛馮、龍淵、太阿，皆陸斷牛馬，水截鹄雁，當敵則斬。”《史記》記載：蘇秦又說魏襄王(前 318-前 296 年)曰：“大王之地，南有鴻溝、陳、汝南、許昌、郾、昆陽、召陵、舞陽、新都、新……”以上說明舞陽與舞鋼市當年分屬韓魏。
秦時,在舞鋼境置柏亭。亭是戰國時始在國與國之間的鄰接地方設定的行政機構，設亭長。漢獻帝時應劭《漢書》注：“故柏子國也,今柏亭是。”柏亭這個地名在東漢末年仍沿用。
院嶺街道辦事處：在舞鋼市中部，垭口西南5公裡。1974年成立。因辦事處駐院嶺居民區内得名。居民區附近為山嶺，位于院窯和院莊之間，故名。面積 2.5 平方公裡。轄人民大街、擁軍大街、建工路東、建工路西、院嶺中路、院嶺西路、軋鋼廠、煉鋼廠、焦化廠9個居委會。
寺坡街道辦事處：在舞鋼市中部，垭口南 1.2公裡。1974年成立。因辦事處駐寺坡居民區内得名。居民區以附近山坡下曾有一寺院取名。寺坡街道辦事處轄寺坡、垭口兩個居民區。面積5平方公裡。轄一街坊東、一街坊西、二街坊南、二街坊北、三街坊、四街坊東、四街坊西、林場、垭口北、垭口一、垭口二、垭口三、垭口四 13 個居委會。垭口系舞鋼市政府駐地，以所處地勢在兩山口間，取名垭口。
朱蘭街道辦事處：在舞鋼市中部，垭口北偏東4公裡。以辦事處駐朱蘭居民區内得名。居民區以附近朱蘭村取名。朱蘭村以村址處原生長竹子，呈青藍色，因名竹藍，後同音演變為朱蘭。辦事處轄礦山一街、礦山二街、礦山三街、礦山四街、鐵山路、建設路、火車站、上曹路一、上曹路二 9個居委會。面積4平方公裡。
礦建街道辦事處：在舞鋼市西北部，垭口北偏西9公裡。1974 年成立時，以位于八台公社境，取名八台街道辦事處。1982年，因人們習慣稱其駐地為礦建(因建設鐵礦而形成)，遂更為今名。轄礦建 1個居委會。面積 1.5 平方公裡。
王店鄉 ：在市境西南部。鄉人民政府駐王店，東北距垭口 18 公裡。王店村以明初王姓從山西洪洞縣遷此建村，且開有飯店，故名。1988年 12 月，從尚店鄉析出 12 個村委會成立。轄下安、李樓、後崗、魏安、下河、王店東、王店西、大黃莊、火神廟、紅衛、小黃莊、韓窪 12 個村委會，77 個自然村。面積 51 平方公裡，其中耕地 32149 畝。
尚店鎮 ：在市境西南部。鎮人民政府駐尚店，東北距垭口 10公裡。尚店以漢代時有尚姓在此居住，且開有飯店，故名。鎮境 1948年屬尚店區。1957 年改設為尚店中心鄉。1958 年建尚店公社。1961 年公社改為區，區下設 5個中型公社。1962 年中型公社改為 10餘個小公社。1965 年撤區複為公社。1983 年公社改建為鄉。1988 年 12 月鄉改建為鎮。轄尚店東、尚店西、三冢郭、賈溝、楊莊、平河、王老莊、朱莊、尹樓、丁莊、溫樓、金崗、馬莊、李莊、馬崗、料莊、頂門、王莊 18 個村委會，90個自然村。面積 55 平方公裡，其中耕地 35922 畝。
楊莊鄉 ：在市境西南部。以原楊莊公社機關駐楊莊得名。楊莊以楊姓始居得名。1967年，公社機關遷駐褚莊，在楊莊東北 0.8公裡，東北距垭口 4.5公裡。鄉境1958 年屬尚店公社。1965 年析置楊莊公社。1983 年改建為鄉。轄長嶺頭、紅石崗、臧坪、薛莊、袁門、葉樓、晁莊、毛莊、操占、崗李、水田、陡溝、龍泉、雷莊、瓦房溝、郜林、五座窯、袁老莊、建新、吳莊、柏莊 21個村委會，145個自然村。面積 125 平方公裡，其中耕地 24314 畝。
廟街鄉 ：在市境西北部。鄉人民政府駐廟街，東南距垭口 8.5 公裡。相傳，舜王出身于橫梁山（鄉境西南部）一帶，小時候曾放牛耕地，後來人們為紀念他，建有舜王廟，成村後名牛郎廟街，簡稱廟街。1988 年 12 月，從八台鄉析出 10 個村委會成立。轄廟街、劉溝、東營、人頭山、曹莊、山和莊、冷崗、胡溝、幹溝、大韓莊10個村委會，84個自然村。面積 47 平方公裡，其中耕地21936 畝。
鐵山鄉 ：在市境中部。以鄉境内有鐵山取名。鄉政府駐朱蘭居民區内，南偏西距垭口3公裡。 1981 年 1 月析出武功公社 7個大隊，楊莊公社8個大隊，八台公社2個大隊組建成鐵山公社。1983 年改建為鄉。轄朱蘭、李輝莊、馮莊、胡莊、寺坡、石門郭、薄沖、水坑趙、冢李、喬莊、找子營、前張、王大苗、小劉莊、閻樓、中曹、營街、傅莊、韓莊、上曹20個村委會，103 個自然村。面積 68 平方公裡，其中耕地 20844 畝
八台鄉 ：在市境西北部。鄉人民政府駐八台村南偏東距垭口 11.5公裡。相傳，八台村原稱陳家集。宋将楊延景、狄青為平掉蠻王，在此村築起八個練兵台。清鹹豐年間，這裡梁姓增多，改村名為梁八台，簡稱八台。鄉境 1948 年為八台區。1956 年撤區設為八台中心鄉，下轄5個小鄉。1958 年改建為八台公社。1961年公社改為區，區下設5個中型公社。1962 年中型公社又改為 10餘個小公社。1965年撤區複為公社。1983年公社改為鄉。轄八台、新村、張樓、下曹、後魯、小唐、泥溝陳、任橋、井劉、曹姚、楊泉、張寬莊、楊樓、石橋楊、大馬莊、安莊、大溝李、孟莊、王老虎、殷莊、彥張、時莊、張我莊、趙案莊 24 個村委會，83個自然村。面積 52 平方公裡，其中耕地45693 畝。
尹集鄉 ：在市境東南部。鄉人民政府駐尹集，西北距垭口 7.5 公裡。明初，尹姓商人從山西洪洞縣遷此開店經商，形成集市，成村後稱尹集。鄉境 1948年為尹集區。1957年撤區改為尹集中心鄉。1958 年建立尹集公社。1961 年公社改為區，區下設 5個中型公社。1962年中型公社改為 10 餘個小公社。1965年撤區複為尹集公社。1983 年公社改建為鄉。轄尹集、葦子園、姬莊、埂上、樓房灣、張莊、大劉莊、小王莊、康莊、朱窪、連莊、蔡莊、雞山、梁莊、李莊、石崗、清涼寺、謝古洞 18個村委會，121個自然村。面積 111 平方公裡，其中耕地 23554 畝。
武功鄉 ：在市境東部。鄉人民政府駐武功村。西南距垭口 6公裡。武功村原稱窯溝，以村附近有磚瓦窯和一道深溝得名。清康熙十八年(1679 年)，知縣蔡汝齊以武功平叛有功，更村名為武功鎮。又傳，清鹹豐年間，有一個武秀才，全鎮受其影響，均尚武，因更村名為武功鎮，簡稱武功。鄉境 1948 年為武功區。1956 年撤區設為武功、辛集 2中心鄉，中心鄉下設 11 個小鄉。1957 年撤辛集中心鄉，并入武功中心鄉。1958 年建為武功公社。1961 年公社改為區，下設7個中型公社。1962 中型公社改為近 20 個小公社。1965 年撤區複為武功公社。1983 年改建為鄉。轄武功、咀頭王、草坡、月營、王五、刁溝、崗王、小柴莊、後營、劉莊、大程莊、田崗、同官李、坡魏、滾河李、滾河孫、八家劉、曹集、大李莊、東曹莊、羅灣、範莊 22 個村委會，61 個自然村。面積 49 平方公裡，其中耕地 38214 畝。
棗林鄉 ：在市境東北部。鄉人民政府駐棗林，西南距垭口 10 公裡。明初，李姓從山西洪洞縣遷此定居，是以處有棗樹林取名為棗李莊，後又更名為棗林。鄉境 1958 年屬武功公社。1965 年析置棗林公社。1983 年改建為鄉。轄棗林、晃張、韋莊、王樓、喜莊、栗林鋪、許莊、生劉、藕池、鐵爐王、前李、後李、辛集、徐莊、張蔔莊、黃莊、老莊、洪建、後袁、苗窪 20 個村委會，47個自然村。面積 44 平方公裡，其中耕地 41287 畝。
安寨鄉 ：在市境東北部。鄉人民政府駐安寨，西南距垭口 16公裡。安寨建村于明初，當時處三角位置的三個小村莊為響應朱元璋“高築牆、廣積糧”的号召，聯合築起寨牆，取名安定寨，後簡稱安寨。1988 年 12 月從棗林鄉析出 16 個村委會而成立。轄安寨、李堂、古铎李、崗郭、直李、店李、邵莊、呂店、張橋、趙莊、東馬莊、羅莊、前邢、後邢、高莊、張營、蘇莊 17 個村委會，30個自然村。面積 32 平方公裡，其中耕地 37839 畝。