东北民主联军8纵是东北部队里成立相对较晚的主力，它的前身是热辽纵队，曾隶属于冀察热辽军区。当冀察热辽划归东北战区后，该军区组建8纵、9纵两支野战纵队编入东北民主联军序列。
在这支部队之前，东北已经成立1纵、2纵、3纵、4纵、6纵、西满纵队等。8纵、9纵与10纵作为第二批组建的野战军主力。
8纵首任司令黄永胜，政委刘道生，张天云任副司令员，邱会作任副政委兼政治部主任，黄鹄显任参谋长。这支部队也是更换主将频率最高的一支部队，黄永胜、段苏权、（黄永胜第二次担任）、陈伯钧等。
该领导班子中，除张天云之外，其他都是原部队将领。
张天云是红25军走出来的将领，他原本在红四方面军主力任职，主力转移时他因伤留下，当留下 部队重新组建红25军时，地方部队与伤员以及小部分部队组建一支新部队，继续在鄂豫皖作战。在红25军长期干政治工作。
抗战爆发后，所在的15军团改编为344旅，这支部队不断发展改编，从八路军编入新四军3师，跟着黄克诚师长在苏北开辟根据地，他逐渐被提拔为8旅旅长。
抗战结束后，3师挺进东北，下辖8旅、10旅以及独立旅组建2纵，他先后担任4师、6师师长。我们知道钟伟能打仗，他是5师师长，也是2纵的主力，可他并没有张天云提拔早。或许是钟伟宁做牛尾的缘故吧，他担任师长到1948年3月直接提拔为纵队司令。张天云在1947年8纵组建时，为加强8纵领导力量提拔为纵队副司令。
1947年底，8纵换主将为段苏权，他是原冀热察军区司令员。如果从出身来说，他是政工出身，在土地革命和抗日战争长期担任政委。解放战争时才改为二线部队司令员。相对首任司令员来说，他的作战经验并不丰富。但在他担任纵队司令期间的大半年里，部队并没大战事。
自1948年，冬季攻势结束后，在长达近半年时间里，东北野战部队进入整训中，在思想上和军事方面。辽沈战役时，也是他第一次参与大兵团作战。
对此，野司首长专门来8纵看望，因为8纵要承担攻坚主力，首长对主将指挥作战经验浅而担忧，曾经把政委和副司令、参谋长叫去谈话，让他们发挥集体作用，帮助司令打好这一场关键战役。
在作战时，8纵也确实出现问题，被总部首长点名。
当锦州攻坚战打完后，紧接着就是辽西会战，纵队首长司令员与参谋长代跟着一路部队，政委与副司令跟着一路部队快速追击。8纵奉命向营口增援，并在作战指挥上归9纵统一指挥。纵队首长看到这个命令后，都哭笑不得，打仗到这份上，大家的革命英雄主义个个高涨，让其他纵队指挥心里不愿意，但没有说一句话。
副司令张天云只是干脆说一个字：行！他与政委带着一个参谋和一部电台，几个警卫人员就上路了。在行军途中，政委问他，你来纵队好几个月了，对部队对领导有什么看法吗？他说部队很好，能培养出战斗力强的部队，自己与部队已经有相当的感情。而且下面的师、团也比较团结。对于纵队军政主官没有过多的评价。
虽然纵队司令作战经验不多，但口碑非常好，政委与他搭档很合拍，下面师长丁盛认为他很有原则等。辽沈战役后，司令就被留在东北，部队南下平津，又南下中南等。