西安事变后，国共实现第二次合作，为了能建立抗日统一战线，在红军改编为八路军初期，因受国民党干涉，我党作出了许多重大让步，其中之一就是取消了政治委员制度，政治部一度改为政训处，虽然字面上看差别不大，但实际工作职责却大不同。
西安事变
1937年10月，平型关大捷后，八路军115师撤到五台山休整。八路军政治部主任任弼时派政治部组织部部长黄克诚到部队检查工作。在115师，黄克诚和师、团干部交流，深入连队和干部战士座谈，在部队短短十几天，黄克诚就发现很多问题。115师刚成立2个多月，由于国共合作抗战，八路军同国军在战场上协同配合作战增多，来往密切，国民党部队的许多歪风邪气就不可避免影响到我军的干部战士。
平型关大捷
部队不设政委，干部战士的思想政治工作无人管理。其战斗作风明显涣散，部队各级干部和战士还滋长了不好的习气。长此以往，八路军会变得像国民党军一样，官僚主义盛行，官兵脱离、阶级对立。分成各种派系、各种山头，严重影响八路军的战斗力。
比如见面时不称同志，而叫弟兄们。正常的工作来往，都要吃吃喝喝。还有个别干部羡慕国民党军官，讲究排场，私自印起了“少将”的名片，在战士面前耍威风，对老百姓耀武扬威。最严重的是八路军115师参谋长周昆，受到国民党糖衣炮弹的诱惑，利欲熏心，竟然私携巨款潜逃，给我军造成了极大的负面影响。
黄克诚
回到总部后，黄克诚向任弼时作了汇报，并把检查中发现的问题，起草书面材料向中央军委报告，建议立即恢复我军的政治委员制度，报告得到了毛主席的高度重视，并批示：恢复政委制度。随后政治委员制度就在八路军中重新建立起来，3个师政训处改为政治部，政训处主任改任政委。
黄克诚与战友们
很快，黄克诚也被任命为八路军115师344旅政委，与旅长徐海东率领344旅转战晋冀豫，创建了太行山南段根据地。
抗战胜利后，黄克诚再次敏锐地意识到，在中国未来的战略格局中，东北有着极其重要的战略地位。东北不仅物产丰富，还是远东地区最重要的工业基地，特别是国民党军队都在大后方，东北缺少国军主力部队，谁抢先占领东北，谁就拥有极大的战略主动。因此黄克诚向中央建议，尽快着手东北的布局，提出八路军应该立即进军东北，人数至少5万，最好在10万人以上。
黄克诚的建议与中央军委和毛主席不谋而合，9月19日，中共中央下发《关于目前任务和向南防御、向北发展的战略方针和部署的指示》，作出了进军东北的战略部署，从全国各地抽调精兵强将，北上东北。1945年9月底，黄克诚接到命令进军东北。当时中央考虑到路程遥远，建议黄克诚在山东休整一段时间再行动。黄克诚认为现在必须以最短的时间进入东北，抢占战略要地，上级同意了。黄克诚立即率领新四军第3师3.5万人，日夜兼程，急赴东北，成为我军最早抵达东北的主力部队之一。
当时最先进入东北的曾克林向中央报告：东北遍地都是武器，部队去东北不必携带武器。先期到达东北的曾克林确实得到苏军移交的一座日军军火库，里面装备好，数量多，让曾克林的部队换装一新，而后来苏军将大部分日军军火移交给国民党军。许多从山东进入东北的八路军，听信东北遍地是武器的传言，将装备直接留在山东，导致到东北后，我军出现了大量“徒手兵”，甚至是没枪没衣的“叫花子”。
但黄克诚却认为手中有粮，心中不慌，3师不但带足武器弹药，还带上了过冬的棉衣棉裤。经过山东时还拒绝了老领导陈毅让其停留几天，支持山东部队作战的请求，马不停蹄赶赴关外。
11月25日，黄克诚率部抵达锦州。立即投入到放手发动群众，建立根据地，消灭土匪的战斗中。
陈毅
黄克诚的战略眼光很独到，陈毅曾这样评价过黄克诚：“别看你们黄师长戴着近视眼镜，他的眼睛看得可远啦，是千里眼”。