1944年春，日軍為了打通中國大陸交通線，不斷從華中地區抽調部隊南下參戰。這種拆東牆補西牆的作法，讓蘇中戰場上的日軍兵力開始逐漸捉襟見肘，老兵成分越來越少，防區進一步收縮，大量僞軍被推到一線充數。與此同時，日軍“延期清鄉”、“高度清鄉”的行動更加頻繁。
面對日軍的全力掃蕩，新四軍内部大多數人都主張積極防禦，配合群衆組織和地方武裝進行原地鬥争。但當時擔任新四軍一師師長的粟裕，卻并不認可這種被動挨打的戰法，他明确指出：
“日軍已經是強弩之末，我們應該在戰略相持階段，争取有利時機，推進局部的戰略反攻。”
日軍在太平洋戰場節節敗退，對中國正面戰場發動的幾場大的進攻，也是折損巨大。一直密切關注國際和國内形勢的粟裕，很敏銳地察覺到日軍用兵已達極限，此時對蘇中根據地的瘋狂進攻，不過是垂死的掙紮。
對于敗象已顯的日軍，不該坐以待斃，而是應主動出擊，打響局部戰略反攻的第一槍，這是粟裕在心裡籌劃了幾個月的“大膽計劃”。為此，他還特意利用去黃花塘參加整風會議的契機，帶着一些參謀和測繪人員考察了沿途的地形、敵情，醞釀作戰布局，并在回到蘇中後，正式提出了與日軍進行一次大規模決戰的構想。
粟裕的戰略腹案讓蘇中區和一師的上司幹部都大為驚訝。此時蘇中地區新四軍和地方武裝加起來總兵力達到20個團共3萬多人，可謂兵強馬壯，但要真拉出來打一場大仗，誰心裡都沒有底。
發起攻勢作戰是否會刺激日軍，引來大規模的報複行動？
讓一直化整為零打遊擊的部隊集結起來打攻堅戰，是否有把握？
沒有軍部的指令，以一師一部之力單挑蘇中日軍，是否風險過大？
對于這三個“是否”的發問，粟裕也是做出了相應的分析：
（一） 從全局來看，日軍已是窮途末路，在一師發起攻勢作戰後，難以再集中力量進行大規模報複掃蕩，即使有些小動作，在我有所準備的情況下，影響也不會太大。
（二） 我主力部隊經過冬季練兵，戰術、技術都有新的提高。隻要組織和指揮得當，取得戰役勝利有很大把握。
（三） 在蘇中地區敵我力量上，我軍雖處于軍事及技術方面的劣勢，但不是絕對劣勢。特别在群衆基礎上，我軍有着極大的優勢。
粟裕的遠見和對戰争局勢的敏銳判斷，說服了所有人。蘇中區上司決定由粟裕負責戰役的組織指揮，副師長葉飛擔任前線指揮，而戰役目标則是車橋。
車橋位于江蘇淮安，是聯系蘇中與蘇北的樞紐，屬于日軍的心髒地區，工事堅固，且有重兵駐防。粟裕力主攻堅車橋，正是認為越危險的地方，往往是最容易得手的地方，這是戰争的辯證法。利用有利地形采取掏心戰術，隐蔽接敵，突然進攻，攻堅打援同時進行，若能取勝，則能一舉重創蘇中日軍。
粟裕調集一師主力部隊5個團，加上地方部隊，臨時編制為三路縱隊：1團、特務營、泰州獨立團一個營為第一縱隊，擔任兩淮地區阻擊；7團為第二縱隊，主攻車橋；52團及江都獨立團、高郵獨立團各一個營擔任淮安、曹甸、寶應方向阻擊；教導團一營、炮兵分隊組成總預備隊。
粟裕用兵極為大膽，且出其不意。他巧設疑兵，讓師部直屬機關分兩路梯隊，一路向北，一路向南突出日軍圍剿圈，擾亂和麻痹敵軍視線。同時動用3萬民兵和群衆，連夜築路打壩，組織數以千計的船隻運送主力部隊和雲梯等物資隐蔽前往車橋。地方部隊則在日軍一切可能的行軍路線上，破壞各據點之間的橋梁、道路，鋪設大量地雷。
一面猛虎掏心，一面請君入甕，粟裕的這份反攻計劃，核心思路隻有四個字“穩、準、狠、毒”。
3月5日淩晨，戰役正式打響。3旅旅長陶勇親自指揮第二縱隊從南北兩個方向直插車橋鎮兩翼，避開十幾個堅固的外圍據點，越過外壕，架起雲梯，僅用20分鐘便突入城内，打下10餘座碉堡，占領鎮内全部街道，分割包圍日僞部隊。
守城的日軍根本不可能想到新四軍一個師竟敢主動發起攻堅戰，而且還是奔襲直取車橋這樣的中心據點，這太過于大膽。沒有防備的守軍一擊即潰，完全陷入被動之中。天亮前車橋一帶突然狂風大作，黃沙漫天，老百姓都說“新四軍有神靈保佑，天刮鬼風，幫助新四軍打勝仗。”
6日，二縱隊在炮兵大隊的配合下，以數個戰鬥小組分散突擊，逐個消滅日軍火力點，摧毀碉堡50餘個。守備的日軍除少量乘隙逃竄外，其餘皆被新四軍殲滅。
與此同時，阻擊打援的戰鬥也在激烈進行。新四軍的瘋狂攻勢令淮安、泗陽、漣水的日軍甚為震驚，立即出動大批援軍支援車橋。
曹甸、塔兒頭的日僞軍100餘人最先出動，行至大施河時，觸發新四軍埋設的地雷，并遭到52團的猛烈阻擊，被迫退回。淮陰、淮安等地的日軍第65師第72旅山澤大隊等部，共700餘人，分4批乘汽車馳援車橋，結果遭到新四軍一縱隊強大的火力阻擊，倉皇逃入我軍預設的地雷陣，被炸得鬼哭狼嚎，傷亡慘重。
内外兩線全部大捷，新四軍其餘各師也積極響應一師的攻勢，紛紛出擊，向日軍各據點發動強攻。整個蘇中、整個江蘇都打成了一鍋粥。車橋戰役，僅一師一部，就殲滅日軍三澤大佐以下日軍465人，僞軍483人，俘虜山本一三中尉以下24人。
不戰則已，一戰驚人。成為新四軍俘虜的山本一三就敬畏地感慨到：
“這恐怕是你們江蘇新四軍第一次打這麼大的勝仗，俘虜這麼日軍。你們在墳地上埋設地雷，在墳地周圍設定戰壕，等我們一到就掀開僞裝，突然出現，這真的是絕妙的計策，是戰術上的勝利。你們的粟裕埃拉伊！埃拉伊（日語“了不起”的意思）！”
車橋大捷震驚全國，延安方面更是對外宣稱：
“蘇北新四軍以雄厚的兵力打了一個大殲滅戰。”
不過饒漱石卻代表新四軍軍部給一師發電批評，認為這場戰鬥：
“主動過分暴露自己的力量，刺激敵人，很可能引起敵人的報複，造成對全局的不利影響。”
對此粟裕也是複電解釋到車橋戰役的必要性，和日軍無力發起複仇攻勢的理由。而之後的事實也證明了粟裕的遠見卓識，日軍雖然計劃讓56師團進行報複掃蕩，卻隻是象征性出門繞了一圈，剛跑到車橋附近，就在望遠鏡裡看到嚴陣以待的新四軍，不敢再向前走，倉皇回程。
車橋戰役，不僅在戰術上打敗了日軍，更在心理上打服了日軍，是真正意義上的完勝。