東北民主聯軍8縱是東北部隊裡成立相對較晚的主力，它的前身是熱遼縱隊，曾隸屬于冀察熱遼軍區。當冀察熱遼劃歸東北戰區後，該軍區組建8縱、9縱兩支野戰縱隊編入東北民主聯軍序列。
在這支部隊之前，東北已經成立1縱、2縱、3縱、4縱、6縱、西滿縱隊等。8縱、9縱與10縱作為第二批組建的野戰軍主力。
8縱首任司令黃永勝，政委劉道生，張天雲任副司令員，邱會作任副政委兼政治部主任，黃鹄顯任參謀長。這支部隊也是更換主将頻率最高的一支部隊，黃永勝、段蘇權、（黃永勝第二次擔任）、陳伯鈞等。
該上司班子中，除張天雲之外，其他都是原部隊将領。
張天雲是紅25軍走出來的将領，他原本在紅四方面軍主力任職，主力轉移時他因傷留下，當留下 部隊重新組建紅25軍時，地方部隊與傷員以及小部分部隊組建一支新部隊，繼續在鄂豫皖作戰。在紅25軍長期幹政治工作。
抗戰爆發後，所在的15軍團改編為344旅，這支部隊不斷發展改編，從八路軍編入新四軍3師，跟着黃克誠師長在蘇北開辟根據地，他逐漸被提拔為8旅旅長。
抗戰結束後，3師挺進東北，下轄8旅、10旅以及獨立旅組建2縱，他先後擔任4師、6師師長。我們知道鐘偉能打仗，他是5師師長，也是2縱的主力，可他并沒有張天雲提拔早。或許是鐘偉甯做牛尾的緣故吧，他擔任師長到1948年3月直接提拔為縱隊司令。張天雲在1947年8縱組建時，為加強8縱上司力量提拔為縱隊副司令。
1947年底，8縱換主将為段蘇權，他是原冀熱察軍區司令員。如果從出身來說，他是政工出身，在土地革命和抗日戰争長期擔任政委。解放戰争時才改為二線部隊司令員。相對首任司令員來說，他的作戰經驗并不豐富。但在他擔任縱隊司令期間的大半年裡，部隊并沒大戰事。
自1948年，冬季攻勢結束後，在長達近半年時間裡，東北野戰部隊進入整訓中，在思想上和軍事方面。遼沈戰役時，也是他第一次參與大兵團作戰。
對此，野司首長專門來8縱看望，因為8縱要承擔攻堅主力，首長對主将指揮作戰經驗淺而擔憂，曾經把政委和副司令、參謀長叫去談話，讓他們發揮集體作用，幫助司令打好這一場關鍵戰役。
在作戰時，8縱也确實出現問題，被總部首長點名。
當錦州攻堅戰打完後，緊接着就是遼西會戰，縱隊首長司令員與參謀長代跟着一路部隊，政委與副司令跟着一路部隊快速追擊。8縱奉命向營口增援，并在作戰指揮上歸9縱統一指揮。縱隊首長看到這個指令後，都哭笑不得，打仗到這份上，大家的革命英雄主義個個高漲，讓其他縱隊指揮心裡不願意，但沒有說一句話。
副司令張天雲隻是幹脆說一個字：行！他與政委帶着一個參謀和一部電台，幾個警衛人員就上路了。在行軍途中，政委問他，你來縱隊好幾個月了，對部隊對上司有什麼看法嗎？他說部隊很好，能培養出戰鬥力強的部隊，自己與部隊已經有相當的感情。而且下面的師、團也比較團結。對于縱隊軍政主官沒有過多的評價。
雖然縱隊司令作戰經驗不多，但口碑非常好，政委與他搭檔很合拍，下面師長丁盛認為他很有原則等。遼沈戰役後，司令就被留在東北，部隊南下平津，又南下中南等。