1946年8月，東北民主聯軍組建1縱、6縱，這兩支部隊可是東北部隊中資曆最老，最輝煌的。1縱1師的前身是紅3軍團，6縱16師的前身是紅1軍團改編而來的部隊。
1師與16師初到東北，一直在林總的直接上司下打仗，因為這兩支部隊曾經隸屬于紅1方面軍，抗戰時期編為115師343旅，是他曾經上司過的部隊。部隊在1946年4月，秀水河子戰鬥中一舉殲滅敵人5個營，成為我軍到東北第一個殲滅戰。
1縱成立後，司令為萬毅，副司令梁興初、李作鵬，副政委周赤萍。6縱成立後，司令為陳光，副司令楊國夫，副政委劉其人。
此時的東北戰場上，先後有了3縱、4縱、1縱、2縱、6縱等主力縱隊。
在這5個縱隊中，當過副司令的将領大多數後來提拔為縱隊司令或軍長，唯獨有一位一直未動。
1縱副司令兼1師師長梁興初，調任6縱副司令兼16師師長，幾個月後成立10縱後擔任司令員、38軍長。副司令兼參謀長李作鵬，在1948年調任6縱副司令兼16師師長，1949年部隊南下中南提拔為43軍軍長。
3縱副司令曾克林，在1946年10月接替司令員，1947年9月調離到遼南軍區司令；4縱副司令胡奇才在首任司令吳克華調離後，提拔為司令，1947年9月改為副司令；副司令韓先楚在1947年秋季攻勢前，調任3縱司令；
2縱上司班子比較穩定，副司令一直由吳信泉擔任，1949年吳信泉先改為軍政委，後接替軍長職務。
說到6縱，在組建之初楊國夫為第一位副司令，後來上級調梁興初擔任縱隊副司令兼16師師長，梁興初調離後，曹裡懷擔任副司令兼參謀長，曹裡懷調走後；李作鵬擔任副司令兼16師師長。
這三位空降過來的副司令，後來都提拔為軍長，分别擔任38軍軍長，43軍軍長以及47軍軍長。
實際上，6縱空降多位司令員，陳光走後，洪學智擔任；洪學智走後，黃永勝擔任，黃永勝走後，洪學智第二次擔任。從資曆來說，6縱除16師，17師、18師是抗戰時期渤海軍區部隊發展而來，楊國夫是當時軍區司令。縱隊多次換将，都是空降幹部，他們後來都能兵團副司令，軍長，但沒提拔，依然是副職。
他擔任縱隊副司令、副軍長從1946年8月到1949年6月，部隊南下中南解放江西，将他調地方軍區擔任副司令。他也成為東北部隊中，擔任縱隊副司令時間最長，資格最老的将領，是不是被限制使用，不得而知。
在二十多年戰争歲月中，如果說哪個時期，他貢獻引以為傲，那就不得不說抗戰時期。他寫過人生回憶錄，主要寫抗戰時期在清河、渤海開辟抗日、發展根據地的。
抗戰爆發後，楊國夫沒有編入作戰部隊序列，而是在郭洪濤的帶領下，一百多人的幹部隊伍從延安向敵後山東進發。1938年5月抵達泰安，一百多人的幹部隊伍被配置設定到山東各地負責各支隊的組建抗日隊伍，他被派往魯北的清河平原。這裡有兩支抗日隊伍，分别是馬耀南和李人鳳，後整編為山東人民抗日遊擊第三支隊，發展平原遊擊戰，建立清河抗日根據地。
他協助馬耀南發動群衆、擴大武裝，打擊敵人。因為馬耀南非軍事出身，過去是知識分子，而楊國夫在土地革命時期就是身經百戰的老将，兩人配合部隊很快發展到5千餘人，開辟了壽光、臨淄、長山等根據地。
部隊不僅要抗日，還要與國民黨頑軍與反動地主鬥争，形勢十分艱難，鬥争不斷。面對日僞軍的掃蕩，加上頑軍的摩擦，使其腹背受敵，依然堅持清河鬥争。
馬耀南司令戰鬥中犧牲，楊國夫接替司令員，指揮繼續在清河平原作戰。後來因三支隊改編為3旅，下轄三個主力團和一個特務營。許世友從386旅副旅長調來擔任旅長。紅軍時期他就是楊國夫的老首長，如今又在一起工作很高興。
1941年2月，許世友率領3旅一個主力團挺進膠東，發展根據地，楊國夫繼續留在戰鬥。
1942年，3旅奉命改編為山東清河軍區，楊國夫擔任司令員，許世友調任膠東軍區司令。
1944年，上級将清河軍區與冀魯邊區合并為渤海軍區，司令員由楊國夫擔任，下轄5個軍分區。渤海軍區的成立，标志着渤海平原抗戰進入一個新的階段。
1945年8月，山東各軍區主力與基幹部隊編成為野戰兵團，組建8個師，12個警備旅。渤海軍區主力改為7師，下轄3個團，他兼任師長。另外軍區 還與第6、7警備旅。
沒多久抗戰結束後，渤海軍區主力奉命北上，他率領7師，第一、三等軍分區組建獨立旅，在王兆相率領下北上。
到了山東戰場上，一開始部隊參加山海關保衛戰，後調北滿剿匪。直到1946年8月，改編為6縱，擔任副司令員。相比在抗戰時期，他是魯北根據地的一面旗幟來說，解放戰争時顯得低調不少。