第一次国共合作时期，中国共产党在国民革命军中进行一些党建工作，但由于指导思想上存在的问题，以及斗争经验不够丰富，在组织建设上并没有做出卓有成效的工作。因此说，党在军队中的领导形式和表现形式党委制，其真正形成还是在此以后的1927年下半年至1929年底，即由我党独立组织和领导的“八.一”南昌起义至“古田会议”之间。
（一）南昌起义标志着我军党委制各形的产生。北伐战争时期，“大批的共产党员被派到军校和军队中去做政治工作，有的部队从连到军都有共产党员担任党代表。这就是说，我们党从那个时候起就开始注意军事工作，就开始在军队中建立革命的政治工作”。特别是我党为了建立直接领导下的武装，先后在叶挺为师长的第 24师、以朱德为团长的第三军官教育团、以叶剑英为团长的第二方面军军官教导团等部队中建立了中国共产党的组织。
在这些部队中，主要领导骨干是共产党员，主要活动由党决定。但由于这些部队数量十分有限，并且仍然隶属于国民政府，因此党的组织在地位、作用上同以后人民军队中党的工作都有重大区别。与此同时，由于党还处于幼年时期，缺乏经验，从而导致一些不正确的指导思想及行为的出现。1926年9月，中央在《二十号通告》中明确规定：“不仅在国民军中不发展组织，不便有党支部，对于其它部队，甚至在反动军队与土匪中，亦不能且不必有党的支部组织”。大革命失败后，党吸取经验教训，开始了创立人民军队的新的历史时期，在这个基础上，我军党委制随之产生。
1927 年7月，为了反抗国民党反动派的血腥镇压，中共中央临时常委决定发动南昌起义。为了加强党对这次起义的领导，7月27日，党中央决定由周恩来、李立三、恽代英、澎湃四位同志组 成前敌委员会，周恩来为书记。中央指出，这一前敌委员会，是“指挥前敌一切事宜”的党的领导机关。刘伯承在给中央的报告中也说，这个前敌委员会，是“此次暴动的总领导者”，“在军中指导一切”。这就说明前敌委员会是领导起义的权力核心。
在前委的领导下，起义军各军建立了军党委，各师建立了师党 委，各团建立了党总支或党支部。为实行党对起义军的独立领导，中央还明确指出：“军中党的织织是一切组织的根源”，“党的作用高于一切”，并进一步规定党组织的主要任务是“管理支部生活，执行党的政策，监督军队行动”。当起义军南征时，各级党组织， 集中力量抓好对官兵的政治教育工作，为之后的南征北伐提供了强有力的思想基础。在行军作战异常艰苦的情况下， 党组织还坚持发展党员， 吸收了贺龙等一批优秀分子入党。南征失败后，部队转战至赣南大庚地区，在那里进行了党团组织整顿，即“大庚整顿”。主要工作是：清理登记党团员，发展新党员，重新加强党组织；统一调配各单位党员，加强党对连队的领导；实行了一些最初的党对军队的领导制度。
对于前委在起义部队中建立的各级党的组织，党中央给予了 充分肯定，1927年12月21日中央在给朱德及其率领的南昌起义部队全体人员的指示信中要求广大官兵 “必须依照从前的组织系统管理支部生活，执行党的政策，监督军队行动”。由此可以看出，党在南昌起义时就在部队中建立了全面领导整个起义的 “我党领导机关”前敌委员会，并同时在军、师中设立了党的委员会，团有支部及支分部。 这些委员会已从组织形式和工作职能上反映出我党在南昌起义时就建立了较前有全新意义上的党委制。当然基于当时的环境条件，这一制度是以秘密方式表现的，因而其领导作用受到了很大的局限。
（二）秋收起义标志着我军形成了以党委制为主要形式的领导 体系。“八七”会议后，党中央派毛泽东以中央特派员的身份到湖 南领导秋收起义并组织了以毛泽东为书记的前敌委员会，作为党 领导起义的集体领导组织 。
1927年9月，出于长期斗争的考虑，毛泽东率领秋收起义部队向江西罗霄山脉中段的井冈山转移。进军途中，在江西永新县三湾村，进行了我军历史上著名的“三湾改编”，从而使我党在军队中第一 次实行了班有党员、排建立了党小组，连队建立党支部，营、团建立党委的新制度。同时连、营、团三级委派了党代表，由党代表担任党支部或党委书记， 负责领导党的工作和政治工作，并且规 定部队的一切重大问题都要经党组织集体讨论决定，这就从组织 上确立了党对军队实施的新型的领导制度。实践证明，“三湾改编”是我军的新生，正是从这时开始确立了党对军队的领导，“于是，这支部队便开始完全处在党的绝对领导之下”。
1928 年4月，朱德、 陈毅率领南昌起义所余部队和湘南起义 农军与毛泽东的秋收起义部队在井冈山会师并成立了红四军，朱 德任军长，毛泽东为党代表。成立了党的前敌委员会，由毛泽东等 5 人组成，作为边界党和军队及政权的最高领导机关，再次强调在 军队中建立连支部、营委、团委、军委四级党的组织。同时强调指出，军委对内是军中党的最高领导机关，隶属于前委，对外即是边 界苏维埃军队委员会，指挥红军及各地方武装。各级党委、支部则 为红军党的工作核心，党代表则为此工作核心之负责者。
我党自“三湾改编”以后，在部队中建立的各级党的领导制度表现出了以下特点：
- 党领导红军中一切工作，处于最高领导地位。规定了一切权力集中于前委和党的各级委员会，一切工作经过党的讨论和决议之后，再予以执行。
- 实行民主集中制的集体领导原则。规定了党的组织原则之一是少数服从多数，少数人在自己的意见被否决之后，必须拥护和坚决执行以大多数人意见所作出的决定及其通过的决议。
- 党的领导是政治的领导。强调党对军队的指挥是实现党的政治思想、政治路线，尽可能不要直接指挥军队，经过军部指挥军事工作，经过政治部指挥政治工作。前委应着眼在红军的政治经济及群众斗争的领导上等等。
从以上特点可以看出，三湾改编后我军建立的党委制较之南昌起义部队建立的党委制，组织制度更加健全，职能更加明确。实践证明，这个制度，是加强党对军队绝对领导，提高部队战斗力的有效措施，成为我军建立党组织的重要原则，也为我军党委制的巩固和发展奠定了坚实的基础。
毛泽东及其他红军领导人在红四军建立的各级党组织和加强组织建设的经验，很快在各地红军中推广起来。1929年3月，中央在给贺龙的指示信中指出：“在朱、毛军队中，党的组织是以连为单位，每连建立一个支部，连以下分小组，连以上有营委、团委等组织”，要求他们在部队建党中进行“参考”。1929年12月，红七军前委颁布《关于党的组织工作》通告，确定“前委之下，各纵队设队委，纵队之下，各营设营委”，并在“每连队设一支部”，以党的集体领导的方式，来讨论决定军队一切重要的问题。
历史向人们表明，毛泽东的关于党委制的伟大实践和创造，为各地红军党的建设提供了宝贵经验，促进了党委制在各地红军中的建立，同时也为后来丰富发展这一制度提供了极重要的思想基础和实践经验。
（三）古田会议科学地总结并发展了我军党委制初创时期的经验。在创立革命根据地的过程中，随着红四军的不断发展壮大，其 成份也日益复杂，无形中加剧了各种非无产阶级思想在红四军的 影响，一些同志对党的领导表现出种种不理解和疑惑。为了总结红军建军经验，进一步向官兵阐明党的建军思想、建军原则，纠正各种错误的倾向，巩固已建立起来的党对军队的领导制度，1929 年6月22日，红四军召开了党的第七次代表大会。基于当时各方面条件不够成熟，会上展开了争论，争论的焦点是关于党对军队的领导问题。
一些受旧军队影响较深的同志，对党委、支部讨论决定问题的制度感到受约束；也有的同志错误的主张事无大小，先交下级讨论，然后上级再作决定，在有的部队甚至出现处理一个鸡蛋都要由士兵委员会讨论的极端民主化倾向；还有的同志认为，“军事好政治自然会好”，提出“司令部对外”的口号，表现出严重的单纯 军事观点。
为了解决红四军“七大”争论的问题，总结两年来的建党建军的经验，红四军根据中央“九月来信”的精神，于1929年12月28日在上杭县古田村召开红四军党的第九次代表大会。大会进行了三天， 全体代表一致通过了毛泽东为大会起草的《中国共产党红军第四军第九次代表大会决议案》。大会选举产生了前委，毛泽东为书记 。
古田会议在我党我军历史上都是一次极其重要的会议，它总结了红军创建以来的军队建设经验，确立了人民军队建设的根本原则，奠定了中国人民解放军政治工作基础。这次大会对党在军队中的健康发展起到了十分重要的作用，比如在大会决议案解决的八个问题中，首先三个问题就是“关于纠正党内的错误思想；党 的组织问题；党内教育问题。由于大会决议案在红四军和各地工农红军中的顺利贯彻执行，才使这支军队成为一支新型的人民军队 。
《古田会议决议》对如何加强党对军队的绝对领导作了全面深 入的阐述。强调指出了：“党的领导机关要有正确的指导路线，遇事要拿出办法，以建立领导中枢。”规定在红军中健全党的各级组织，实行集中指导下的民主生活，实行集体领导的原则，一切工作，必须在经过党的讨论和决议之后，再经过群众路线的方法执行。
“各级党的会议（从支部到前委）均须将军事工作计划及报告列入 议事日程，加以讨论和决定。”同时尖锐地批判了那种不承认军事 只是完成政治任务的工作之一， 把党的政治工作机关隶属于军事工作机关的错误思想， 指出这种思想具有极大的危害性，“如果发展下去，便有走到脱离群众，以军队控制政权，离开无产阶级领导的危险。”《决议》还对党的组织问题作了具体规定，要求“每连建设一个支部 ，每班建设一个小组，这是军中党的组织重要原则之一。”“大队支队两级党部的书记，以不兼政治委员为原则，但在工作人员缺乏的部队， 仍可暂时兼充。没有担任党的书记责任的政治委员，上级党部应察看情形，在条件适合的环境之下，得委为党的特派员，有指导该级党的工作的任务”等等。
《决议》 确定的以党委支部制为主要内容的党对军队的领导原 则，是建设一支无产阶级新型人民军队的首要条件。实践证明， 古田会议决议为我军党委制的巩固和发展在政治上、组织上奠定了基础 。