第一次國共合作時期，中國共産黨在國民革命軍中進行一些黨建工作，但由于指導思想上存在的問題，以及鬥争經驗不夠豐富，在組織建設上并沒有做出卓有成效的工作。是以說，黨在軍隊中的上司形式和表現形式黨委制，其真正形成還是在此以後的1927年下半年至1929年底，即由我黨獨立組織和上司的“八.一”南昌起義至“古田會議”之間。
（一）南昌起義标志着我軍黨委制各形的産生。北伐戰争時期，“大批的共産黨員被派到軍校和軍隊中去做政治工作，有的部隊從連到軍都有共産黨員擔任黨代表。這就是說，我們黨從那個時候起就開始注意軍事工作，就開始在軍隊中建立革命的政治工作”。特别是我黨為了建立直接上司下的武裝，先後在葉挺為師長的第 24師、以朱德為團長的第三軍官教育團、以葉劍英為團長的第二方面軍軍官教導團等部隊中建立了中國共産黨的組織。
在這些部隊中，主要上司骨幹是共産黨員，主要活動由黨決定。但由于這些部隊數量十分有限，并且仍然隸屬于國民政府，是以黨的組織在地位、作用上同以後人民軍隊中黨的工作都有重大差別。與此同時，由于黨還處于幼年時期，缺乏經驗，進而導緻一些不正确的指導思想及行為的出現。1926年9月，中央在《二十号通告》中明确規定：“不僅在國民軍中不發展組織，不便有黨支部，對于其它部隊，甚至在反動軍隊與土匪中，亦不能且不必有黨的支部組織”。大革命失敗後，黨吸取經驗教訓，開始了創立人民軍隊的新的曆史時期，在這個基礎上，我軍黨委制随之産生。
1927 年7月，為了反抗國民黨反動派的血腥鎮壓，中共中央臨時常委決定發動南昌起義。為了加強黨對這次起義的上司，7月27日，黨中央決定由周恩來、李立三、恽代英、澎湃四位同志組 成前敵委員會，周恩來為書記。中央指出，這一前敵委員會，是“指揮前敵一切事宜”的黨的上司機關。劉伯承在給中央的報告中也說，這個前敵委員會，是“此次暴動的總上司者”，“在軍中指導一切”。這就說明前敵委員會是上司起義的權力核心。
在前委的上司下，起義軍各軍建立了軍黨委，各師建立了師黨 委，各團建立了黨總支或黨支部。為實行黨對起義軍的獨立上司，中央還明确指出：“軍中黨的織織是一切組織的根源”，“黨的作用高于一切”，并進一步規定黨組織的主要任務是“管理支部生活，執行黨的政策，監督軍隊行動”。當起義軍南征時，各級黨組織， 集中力量抓好對官兵的政治教育工作，為之後的南征北伐提供了強有力的思想基礎。在行軍作戰異常艱苦的情況下， 黨組織還堅持發展黨員， 吸收了賀龍等一批優秀分子入黨。南征失敗後，部隊轉戰至贛南大庚地區，在那裡進行了黨團組織整頓，即“大庚整頓”。主要工作是：清理登記黨團員，發展新黨員，重新加強黨組織；統一調配各機關黨員，加強黨對連隊的上司；實行了一些最初的黨對軍隊的上司制度。
對于前委在起義部隊中建立的各級黨的組織，黨中央給予了 充分肯定，1927年12月21日中央在給朱德及其率領的南昌起義部隊全體人員的訓示信中要求廣大官兵 “必須依照從前的組織系統管理支部生活，執行黨的政策，監督軍隊行動”。由此可以看出，黨在南昌起義時就在部隊中建立了全面上司整個起義的 “我黨上司機關”前敵委員會，并同時在軍、師中設立了黨的委員會，團有支部及支分部。 這些委員會已從組織形式和工作職能上反映出我黨在南昌起義時就建立了較前有全新意義上的黨委制。當然基于當時的環境條件，這一制度是以秘密方式表現的，因而其上司作用受到了很大的局限。
（二）秋收起義标志着我軍形成了以黨委制為主要形式的上司 體系。“八七”會議後，黨中央派毛澤東以中央特派員的身份到湖 南上司秋收起義并組織了以毛澤東為書記的前敵委員會，作為黨 上司起義的集體上司組織 。
1927年9月，出于長期鬥争的考慮，毛澤東率領秋收起義部隊向江西羅霄山脈中段的井岡山轉移。進軍途中，在江西永新縣三灣村，進行了我軍曆史上著名的“三灣改編”，進而使我黨在軍隊中第一 次實行了班有黨員、排建立了黨小組，連隊建立黨支部，營、團建立黨委的新制度。同時連、營、團三級委派了黨代表，由黨代表擔任黨支部或黨委書記， 負責上司黨的工作和政治工作，并且規 定部隊的一切重大問題都要經黨組織集體讨論決定，這就從組織 上确立了黨對軍隊實施的新型的上司制度。實踐證明，“三灣改編”是我軍的新生，正是從這時開始确立了黨對軍隊的上司，“于是，這支部隊便開始完全處在黨的絕對上司之下”。
1928 年4月，朱德、 陳毅率領南昌起義所餘部隊和湘南起義 農軍與毛澤東的秋收起義部隊在井岡山會師并成立了紅四軍，朱 德任軍長，毛澤東為黨代表。成立了黨的前敵委員會，由毛澤東等 5 人組成，作為邊界黨和軍隊及政權的最高上司機關，再次強調在 軍隊中建立連支部、營委、團委、軍委四級黨的組織。同時強調指出，軍委對内是軍中黨的最高上司機關，隸屬于前委，對外即是邊 界蘇維埃軍隊委員會，指揮紅軍及各地方武裝。各級黨委、支部則 為紅軍黨的工作核心，黨代表則為此工作核心之負責者。
我黨自“三灣改編”以後，在部隊中建立的各級黨的上司制度表現出了以下特點：
- 黨上司紅軍中一切工作，處于最高上司地位。規定了一切權力集中于前委和黨的各級委員會，一切工作經過黨的讨論和決議之後，再予以執行。
- 實行民主集中制的集體上司原則。規定了黨的組織原則之一是少數服從多數，少數人在自己的意見被否決之後，必須擁護和堅決執行以大多數人意見所作出的決定及其通過的決議。
- 黨的上司是政治的上司。強調黨對軍隊的指揮是實作黨的政治思想、政治路線，盡可能不要直接指揮軍隊，經過軍部指揮軍事工作，經過政治部指揮政治工作。前委應着眼在紅軍的政治經濟及群衆鬥争的上司上等等。
從以上特點可以看出，三灣改編後我軍建立的黨委制較之南昌起義部隊建立的黨委制，組織制度更加健全，職能更加明确。實踐證明，這個制度，是加強黨對軍隊絕對上司，提高部隊戰鬥力的有效措施，成為我軍建立黨組織的重要原則，也為我軍黨委制的鞏固和發展奠定了堅實的基礎。
毛澤東及其他紅軍上司人在紅四軍建立的各級黨組織和加強組織建設的經驗，很快在各地紅軍中推廣起來。1929年3月，中央在給賀龍的訓示信中指出：“在朱、毛軍隊中，黨的組織是以連為機關，每連建立一個支部，連以下分小組，連以上有營委、團委等組織”，要求他們在部隊建黨中進行“參考”。1929年12月，紅七軍前委頒布《關于黨的組織工作》通告，确定“前委之下，各縱隊設隊委，縱隊之下，各營設營委”，并在“每連隊設一支部”，以黨的集體上司的方式，來讨論決定軍隊一切重要的問題。
曆史向人們表明，毛澤東的關于黨委制的偉大實踐和創造，為各地紅軍黨的建設提供了寶貴經驗，促進了黨委制在各地紅軍中的建立，同時也為後來豐富發展這一制度提供了極重要的思想基礎和實踐經驗。
（三）古田會議科學地總結并發展了我軍黨委制初創時期的經驗。在創立革命根據地的過程中，随着紅四軍的不斷發展壯大，其 成份也日益複雜，無形中加劇了各種非無産階級思想在紅四軍的 影響，一些同志對黨的上司表現出種種不了解和疑惑。為了總結紅軍建軍經驗，進一步向官兵闡明黨的建軍思想、建軍原則，糾正各種錯誤的傾向，鞏固已建立起來的黨對軍隊的上司制度，1929 年6月22日，紅四軍召開了黨的第七次代表大會。基于當時各方面條件不夠成熟，會上展開了争論，争論的焦點是關于黨對軍隊的上司問題。
一些受舊軍隊影響較深的同志，對黨委、支部讨論決定問題的制度感到受限制；也有的同志錯誤的主張事無大小，先交下級讨論，然後上級再作決定，在有的部隊甚至出現處理一個雞蛋都要由士兵委員會讨論的極端民主化傾向；還有的同志認為，“軍事好政治自然會好”，提出“司令部對外”的口号，表現出嚴重的單純 軍事觀點。
為了解決紅四軍“七大”争論的問題，總結兩年來的建黨建軍的經驗，紅四軍根據中央“九月來信”的精神，于1929年12月28日在上杭縣古田村召開紅四軍黨的第九次代表大會。大會進行了三天， 全體代表一緻通過了毛澤東為大會起草的《中國共産黨紅軍第四軍第九次代表大會決議案》。大會選舉産生了前委，毛澤東為書記 。
古田會議在我黨我軍曆史上都是一次極其重要的會議，它總結了紅軍建立以來的軍隊建設經驗，确立了人民軍隊建設的根本原則，奠定了中國人民解放軍政治工作基礎。這次大會對黨在軍隊中的健康發展起到了十分重要的作用，比如在大會決議案解決的八個問題中，首先三個問題就是“關于糾正黨内的錯誤思想；黨 的組織問題；黨内教育問題。由于大會決議案在紅四軍和各地工農紅軍中的順利貫徹執行，才使這支軍隊成為一支新型的人民軍隊 。
《古田會議決議》對如何加強黨對軍隊的絕對上司作了全面深 入的闡述。強調指出了：“黨的上司機關要有正确的指導路線，遇事要拿出辦法，以建立上司中樞。”規定在紅軍中健全黨的各級組織，實行集中指導下的民主生活，實行集體上司的原則，一切工作，必須在經過黨的讨論和決議之後，再經過群衆路線的方法執行。
“各級黨的會議（從支部到前委）均須将軍事工作計劃及報告列入 議事日程，加以讨論和決定。”同時尖銳地批判了那種不承認軍事 隻是完成政治任務的工作之一， 把黨的政治工作機關隸屬于軍事工作機關的錯誤思想， 指出這種思想具有極大的危害性，“如果發展下去，便有走到脫離群衆，以軍隊控制政權，離開無産階級上司的危險。”《決議》還對黨的組織問題作了具體規定，要求“每連建設一個支部 ，每班建設一個小組，這是軍中黨的組織重要原則之一。”“大隊支隊兩級黨部的書記，以不兼政治委員為原則，但在從業人員缺乏的部隊， 仍可暫時兼充。沒有擔任黨的書記責任的政治委員，上級黨部應察看情形，在條件适合的環境之下，得委為黨的特派員，有指導該級黨的工作的任務”等等。
《決議》 确定的以黨委支部制為主要内容的黨對軍隊的上司原 則，是建設一支無産階級新型人民軍隊的首要條件。實踐證明， 古田會議決議為我軍黨委制的鞏固和發展在政治上、組織上奠定了基礎 。