抗战结束后，曾经担任新四军5师参谋长的刘少卿，从延安派往前线工作，从此以后也开启“飘着”的军事生涯。此话，怎么说呢？
1939年，刘少卿离开延安被派往鄂豫皖前线加强领导工作，当时李先念被派往鄂豫皖开辟新区，随着部队扩编需要干部，而到前线被委以重任，成为李司令得力助手，成为5师“总长”，不仅负责打仗，而且司令部各项工作都负责。
1944年，他被抽调离开5师，去延安学习，内心是有点不情愿的，途经豫西时遇到阻力停下来战斗，与王树声部汇合。抗战结束后，跟着王树声一起又回到鄂豫皖。当时5师、王树声部、王震部组建中原军区，拟任他为参谋长，不知何故推辞，在中原军区没有正式职务。
国共和谈时，他被抽调去北平军调处工作，从此也算是离开老部队了。
随着中原突围，新四军5师抵达鄂豫陕开辟新区，他回到延安休养，要求到前线工作，一开始被安排到刘邓麾下，想着跟部队重返鄂豫皖。当时部队在鲁西南作战，暂无南下到计划。因此，他决定离开前往东北打仗，路过华东被留下来。
华东部队大多数是由新四军改编而来，陈毅、粟裕、张云逸等都是新四军老首长。从过去隶属关系上，刘少卿是他们的下级。不过，因为5军在中原发展，距离新四军军部盐城较远，往来不多。
军区副司令张云逸知道刘少卿的过去的职务，可作为一个空降过来的干部，此时并没有合适的职务给他。一开始让他去搞教育，或者担任警备旅旅长，但后改为渤海军分区司令员，从职务上属于师级。
军分区属于地方部队，打仗自然不是主要工作，主要工作就是发展根据地建设，扩兵、配合主力作战，进行地方土改、征粮、剿匪等工作。他很想率领军分区主力打一场漂亮的战，或许因为是空降干部，上下不熟悉，还需要磨合，因此提出作战方案有时候被掣肘或者否定，因此工作不是很顺心，要求离开。
当他的问题反映到张云逸那里后，也知道他为什么要走，这是抗战根据地割据造成的情况，本地干部都不怎么放心，也就不怎么信任外来干部，队伍是他们在抗战中自己拉起来的，就是华东军区首长到新地区都会遇到这样的情况。也对他说，如今给他安排的职务确实低了一点，这也是多方面情况造成的。
张云逸的一番话，让他心中的委屈少了不少，上级也考虑到他在军分区工作的情况，就给他再次安排职务，到陶勇4纵10师工作，那个师打仗有些损失，现在补充休整；还有可以到东江纵队，部队是广东转移到山东来的，可以到那里帮助整训。
刘少卿去了东江纵队，但并没有给他职务。在东江纵队几个星期后，华野东线兵团成立，他被安排担任兵团参谋长，协助许世友打仗。
过去协助李先念打仗，因李先念是政工出身，军事方面需要加强，因此在抗战时期刘少卿的工作和权限很大，工作也很顺手。可到内线兵团担任参谋长，兵团许世友，副司令王建安，都是非常能打仗的老将，在军事方面刘少卿主要是传达、布置任务等。
东线兵团开始几个月的胶东保卫战，1948年春在打兖州攻坚战，因黑热病而离开前线休养。从此也算离开作战部队了，像济南战役、辽沈战役等他都没有参加。
1949年部队改编为三野，上级希望他继续担任兵团参谋长，可从内心来讲，干了十多年参谋长更希望到前线独立带兵打仗，上级也考虑他的情况。可最终没有合适的位置安排给他，只能再次安排临时职务，让其带着南下干部到前线接收工作。当任务完成后，他的职务也就不存在了。
直到上海解放后，他率领的几个团改编为上海铁路公安局局长。解放后，又被调任华东局副秘书长。
在解放战争的三年时间里，他可是一直“飘着”，没有像其他干部一样扎根部队。如果说到原因，也是多方面的，有自身原因，也有外部原因。
从自身原因来说，他原本可以继续在作战部队担任兵团参谋长，职务也不低，可就想着到前线带兵，失去一次留在作战部队的计划。从外部原因来说，作为空降干部，没有带着部队过来，困难可想而知，这是所谓“山头”。因此很多干部实际上不愿离开老部队到新部队工作，因为人事问题比较复杂。
他咋不留在过去的老部队，去当时的鄂豫陕呢？还是之前说的，心里有气，想不通怎么就把自己调离新四军5师了。多年后，才释怀。