1947年5月初，对解放区实施的全面进攻失败之后，国军被迫改变战略收缩兵力进行重点进攻。同年，陆军总司令顾祝同接替薛岳，驻守徐州全权指挥重点进攻事宜，以汤恩伯为第一兵团司令，在山东集结重兵对华东野战军进行重点进攻，企图歼灭华野主力。
按照部署，国军以王牌整编74师为主力，向山东解放区推进。王牌74师成立于抗战时期，是一支自抗战以来几乎打满全场的军队，该军参加过长沙会战、上高会战、武汉会战等战役，两次获得国军最高荣誉飞虎旗。抗战胜利后，74军整编为74师，师长为张灵甫。整编74师全部美械装备，官兵中知识分子多，被誉为国军五大王牌之一。
在整个山东战场，几十万部队都是围着整74师来部署。这些部队有：整编83师、28师、57师、第7军、48师、整编25师、65师，以及第二兵团王敬久部，第三兵团欧震部，第二绥靖区王耀武部等，总兵力在20万人以上。
第一兵团司令汤恩伯最初将74师划归第一纵队李天霞指挥。张灵甫与李天霞是黄埔同学，但二人关系一直不好。尤其抗战后张灵甫的火速提拔，张灵甫的傲慢，导致当年的一些老首长对其颇有不满。张灵甫自知得罪之人太多害怕在战争的节骨眼上吃李的暗亏，所以就坚决要求将74师划归黄百韬指挥。
张灵甫认为，黄百韬是顾祝同的基本部队，且所部整编25师战斗力较强，一旦遇到危急情况时，相互之间还可有个照应。汤恩伯同意了张灵甫的请求，李天霞听说张灵甫硬把整编74师划出去后，心中很不痛快。
5月12日，汤恩伯下令全线进攻。张灵甫命令整编74师各旅向坦埠齐头并进，向解放军华东野战军主力发起强大的攻势。张灵甫的整编74师进占迅速，很快突进到最前沿。但此时友军各部却失去了踪影，左右两翼部队竟不知去向，张灵甫的整编74师一再突进，很快进入阵地核心。
张灵甫大惑不解，正在商量对策之际，参谋来报告称：黄百韬的整编第25师主力还在原地集结，其先头一个旅在距离74师几十公里的一个小山头上观望不前。整编83师，只有一个营在远离阵地的地方游弋。整编第65师，还在蒙阴没有半点动作。
张灵甫得到报告后，深知情况不妙，于是赶紧向汤恩伯汇报：“我军已呈突前态势，友军支持不力，我亦不便指挥。请速下令各部向我靠拢。”汤恩伯接到张灵甫的汇报之后，并未立刻做出答复，他告诉张灵甫他先要去了解一下情况再给他命令。
汤恩伯心里很清楚，由于张灵甫最受蒋宠信，整编74师装备也最为先进，因此张灵甫一向目中无人，傲慢得很。其余几位师长都与张灵甫军衔差不多，李天霞等人在军中资格甚至比张灵甫还老。因此在行动上，要这些人一致听从张灵甫的安排靠拢过来，这是很难办到的事情。但大战在即，汤恩伯还是以总司令的名义催促各师迅速前进，掩护整编74师。
5月12日，华野指挥部下达作战命令，以第1、第4、第8、第9纵队担任割裂围歼整编74师的任务，以第2、第3、第7、第10纵队担任阻击援兵的任务，约定在13日黄昏发起攻击，迅速将整编74师等窜入中部的军队与其主力割裂，再进行聚歼。13日上午，国军又以3个师的兵力发起攻击，战斗一直打到下午4点钟，华野主力退至黄斗顶山、马牧池等地，诱敌继续深入。
此时张灵甫率领的整编第74师一直向前猛扑，全师的位置越来越靠前。在华野的诱敌战术之下，整编74师渐渐脱离两翼掩护部队，闯入了华野设下的大包围圈里（实际上是实行中心开花战术）。张灵甫见状要求第三纵队张淦部、黄百韬部、李天霞部迅速向整编74师靠拢，救援渐渐被围的整编74师。
5月13日黄昏，华野第4、第9纵队在正面诱惑74师深入，派出第1纵队从右翼包抄，迅速占领蛤蟆崮、界牌等地，彻底切断了整编74师与25师之间的联系。仅仅两个小时的时间，张灵甫就与黄百韬失去了联系。此时，整编74师与华野打了大半天，左翼已经出现了一个大空挡，此时张灵甫再向汤恩伯电陈，为何左翼没有友军主力出现。汤恩伯问各部，各部均称绝无按兵不动的事情。
5月14日，华野对坦埠一线发起猛烈攻势，张灵甫孤军与华野2个半纵队激战。华野第6纵队从费县急进到垛庄南面的白埠地区，第8纵队从左翼出击，占领了依汶庄和磊石山等地。经过竟日激战，第8纵队从左边切断了张灵甫74师傅与整编83师李天霞部的联系，第6、第8纵队相互连通配合，将整编74师包围在了中间。
当天的战斗打得异常惨烈，张灵甫深知自己已经陷入包围之中，于是下令迅速向后方补给基地——垛庄后撤。但垛庄此时已经被华野6纵队攻下，张灵甫苦等的第25师、83师主力一直没有及时出现。张灵甫只得将重装备丢下，退守孟良崮高地等待援兵。
困守孟良崮之后，张灵甫立刻与友军联系，但方圆几十里都没有友军的影子。当天下午，张灵甫接到汤恩伯电报，称李天霞的83师已经奉命从天马山及孟良崮东侧进攻。张灵甫此时才松了一口气，但后来又有报告称83师实际上只有一个搜索队抵达了天马山，83师主力已经不在天马山附近。张灵甫听后，心如刀绞一般。
老乡指示张灵甫藏身地
5月15日，尽管汤恩伯一再给张灵甫打气，让他再坚守两天形成决战的核心，以分进合击之势聚歼华野主力。但时间一点一滴在流逝，整编74师在孟良崮的阵地越来越小，伤亡也越来越重，张灵甫苦苦等待的援军一直未到，整编74师陷入困境。
整编74师被围，蒋得知情况后立刻亲自给前线的指挥官下了一道命令：“全力向蒙阴以东、汉河两岸转移攻势，以解孟良固之围。欧震统一指挥整二十五师、整六十五师、整十一师、整九师克日向孟良固进击，如有懈怠者立即军法从事。”
各部队长官接到命令之后，各自催促部队前进攻击，以解救整编74师。但此刻为时已晚，因为华野指挥部下达了迅速围歼整编74师的命令。在孟良崮外围，华野4、5个纵队的兵力挡在外面，战况一度胶着。国军各部虽是奉命救援，但大多各怀鬼胎，深知孟良崮围难解，惧怕被解放军全歼，因此救援难有大的效果。
在严令之下，仅有第83师李天霞部派出57团来到孟良崮外围象征性地进行了“救援”，而早先计划好的等候在外围的20万大军却无一人来救。张灵甫以自身为饵，吸引了华野10万精锐围在孟良崮打了三天三夜，国军重兵集团竟没有前来合围，张灵甫及其74师陷入了死地。
绝地孟良崮
那么，外围的20万国军在哪里呢？张灵甫被围时，国军整编第5军被牵制于莱芜；整编第11师被阻在蒙阴西北；整编65师、整编25师被阻挡在曹庄、蛤蟆崮、界牌；整编48师被拒在留田、鼻子山，当时距离张灵甫不到10公里的83师与25师也没有赶到。
张灵甫绝望之下发出最后一份电报：“战况已恶化，职已尽了全力。无奈友军增援不至，钧座（指汤恩伯）与黄百韬、李天霞应负全责。弹药不必再投，可速令空军轰炸600高地及周围阵地。张钟麟。”整编74师最终被全歼于孟良崮，师长张灵甫开枪自杀（一说被击毙）。
孟良崮之战，整编74师全军覆没，师长张灵甫身亡。导致孟良崮惨败的真正原因是什么呢？国军将领郭汝瑰在日记中写道：“余以纯军事立场觉得此次失败十分怪异。盖74师左右翼友军均相距五六公里之遥，何以竟三日之久不能增援？各部队如此不协调，战斗力如此之差，除失败而外，当无二路。”
其实，这个问题就连张灵甫本人也意识到了。张灵甫死前（5月6日）曾给蒋写过一封信，里面详述了他对国军的看法：“以国军表现于战场者，勇者任其自进，怯着听其裹足，牺牲者牺牲而已，机巧者自以为得志。赏难尽明，罚每欠当，彼此多存观望，难得合作，各自为谋，同床异梦。”
各自为谋，同床异梦。这就是孟良崮整编74师被全歼的真正原因。