1939年11月7日，由新四军第一、第二支队合编的江南指挥部在溧阳水西村成立，陈毅、粟裕分任正副指挥，陈毅将指挥重任尽交粟裕。
其时，老蒋确定了军事限共的方针，掀起第一次反共高潮。陈粟贯彻中央的“向北发展，向东作战，向南巩固”的战略方针，决定择机渡江东进。
正巧鲁苏皖边区游击总指挥李明扬从老乡王敬久处搞到十万发子弹，途中要过日军重重封锁线，李明扬向陈毅求助。
陈粟要打瞌睡，李送来了枕头。粟裕令卢胜、陶勇率第四团团部和第二营护送弹药，乘机渡江北上。数天后，负责押送的陈粟部属顺理成章地进入苏皖边区，与先前渡江北上的梅嘉生支队合编成苏皖支队，与淮南的八路军第五支队取得联系。紧接着，叶飞率老六团由苏南开到扬中，与管文蔚部合编为挺进纵队，渡江后在扬州、六合、泰州开展游击战。这样大江两岸苏南、苏中、淮南互为犄角，新四军脚踏长江两岸，打开了进入苏北大门。
1940年6月，反共风云密布。国军63师师长冷欣想一口吞掉江南指挥部，江苏省主席、苏鲁战区副总司令韩德勤切断江上交通线，压迫我江北武装。6月15日，陈粟移往苏北。冷欣立调2个团堵截。18日顽军在茅山脚下遭埋伏已久的粟裕痛击，狼狈而逃。不久冷欣二次杀来，粟裕引诱前来“扫荡＂的日军与顽军交锋，双方迫击炮、掷弹筒、重机枪齐上，激战数小时，冷欣大叫：粟裕真厉害，我们上了大当，吃了大亏，7月8日陈粟率部抵达长江北岸塘头地区，7月12日，江南指挥部改称苏北指挥部，陈粟辖第1、第2、第3三个纵队，9团，7000余人。
苏北形势严峻，顽固派韩德勤自诩拥兵十万，控制东台、兴化、阜宁及广大乡村；李明扬、李长江二李控制泰州和如皋以南地区；驻曲塘一带的税警总团陈泰运部，李、陈与韩因利益冲突，矛盾重重。陈粟认为要执行“开辟苏北、发展华中＂的战略任务，与韩必有死战，制定了“联李、击敌、反韩”的策略，决定开辟黄桥为中心的根据地。
东进黄桥，必经二李防区，陈承诺东进后把每月收税5万元的吴家桥让给二李，换取二李协助陈粟东进。
陈粟挺进黄桥，韩令何克谦由黄桥及以南地区北击，陈泰运由曲塘南下北新街，妄图南北夹击，全歼陈粟。粟裕率进至北新街南的部队向北调头，突袭陈泰运部，击溃其2个团，歼其一个多营。陈粟归还陈泰运部俘虏、武器，洗脑让其躺平。接着粟裕亲率王必成的二纵攻击黄桥北及东北，叶飞率一纵攻搬经镇，切断何克谦退路，陶勇率3纵从南面攻击黄桥。歼灭何克谦部2000人，陈粟又分击附近日伪据点，黄桥东西百余里，南北七十里均为我所有。8月21日，韩德勤下令：以二李一陈为右路军，屯兵姜堰；以李守维89军的117师、独立六旅、保安第一旅为左路军，集结于曲塘、吴家集、海安。8月底完成集结，9月2日总攻击。陈粟以为：右翼等于无翼，左翼是韩的嫡系主力，7个团，可收拾。9月5日，保1旅占营溪，117师狂攻古溪。陈粟故意收缩阵地，诱敌左翼深入，当夜1纵出营溪歼保1旅2个团，2纵、3纵从古溪正面出击，韩见不妙，龟缩至曲塘、海安，陈粟释放保1旅副旅长以下1500人，保1旅从此不再以陈粟为敌。
韩德勤改用堡垒政策，令张少华率保9旅六个团进驻粮、棉、盐、油集散地姜堰，严控陈粟粮源，先压缩我军，勾结日伪合击。粟裕决定打姜堰，他先令一纵东进佯攻海安，韩中计把姜堰的4个团调往海安，粟裕9个团对2个团，粟挑两排精兵组成勇敢队直捣保9旅司令部，然后由里向外打，内外夹攻。一昼夜攻克姜堰，歼敌1000余人，打出军威。陈粟又把姜堰让给二李，送100余条枪给陈泰运，换取二陈一李在黄桥决战中的中立。
韩德勤纠集26个团3万余人分三路攻黄桥。中路李守维89军、翁达独六旅1.5万余人从海安、曲塘攻击黄桥北面和东面；右路是二李一陈，左路由保1旅、5旅、6旅、9旅、10旅组成，掩护主力两翼并进攻黄桥以西及东南地区。我军战斗部队5000人。
粟裕决定集中兵力，采取诱敌深入、各个击破的战法，于运动中歼击韩部。令陶勇3纵守黄桥，叶飞1纵、王必成2纵集结于黄桥西北，待机出击；2纵派2个营运动防御、诱敌深入，粟裕亲赴黄桥前线。
粟裕用兵：深思熟虑，刚敢果断，擅长出奇谋、用奇兵、建奇功。他选择3000多人的独6旅做首歼对象。独六旅清一色的中正式79步枪，每连9挺捷克式机枪，军官大部出自军校，号称梅兰芳式部队。
10月1日，韩德勤下达进攻黄桥命令，大雨滂沱、道路泥泞，百十里路竟走了两天。守黄桥的3纵才2千人，粟裕决定西边、北边不派部队，由后勤、伙夫警戒，北门放一个班，其余集中于东门。4日凌晨4点，33师攻击东门。11点顽军动用3个团总攻东门，我防御工事大部被毁，3纵伤亡很大，东北方向围墙被打塌，顽军突进到东门，陶勇、张震东亲提马刀将顽军逐出。翁达率的独六旅故意放慢脚伐，妄图坐收渔翁之利。下午3点，翁达前锋抵黄桥北五六里处，粟裕采用“黄鼠狼吃蛇＂战法，一纵将士如四把钢刀将独6旅切成数段，首歼旅部及后卫团，迫其先头团回援，3小时，全歼独6旅，翁达自杀。
李守维的89军完全孤立，李守维龟缩在东北一线，企图最后一扑或固守待援。午夜，2纵经八字桥直插分界，切断李的退路。我1纵、2纵、3纵三路夹击，将其主力分割包围。粟裕原定5时下午总攻。韩调援军8个团进至黄桥东北不远处。粟裕下令提前总攻。因各纵无电台，无法通知。粟裕令3纵以一小部佯攻黄桥以东之敌，诱敌反击，以此作为我联络1纵、2纵的信号。枪声就是命令，中午围歼战打响，1纵南下，4团首击敌军部，1团主力随后猛击，2纵立即西进。粟裕令3纵全线出击。各纵队紧缩包围圈。一天光景，骄横的33师已毫无斗志。李守维竟丢下部队，渡河逃窜，竟失足落水又无人相救，死于八尺沟河中。89军群虫无首，到6日清晨大部被歼，33师师长孙启人被俘。粟裕下达追击令，下令各部不顾疲劳、不惜牺牲，不重缴获，乘胜追击，连克海安、东台。
八路军黄克诚的5纵由涟水东进，直下盐城。10月11日，王必成的2纵与黄克诚5纵的先头部队，在东台以北的白驹镇会师。
韩德勤率残部千余人逃往兴化，左路军各保安旅团竞相逃命，想坐享其成的“二李一陈”也撤退。
黄桥决战，我以少胜多，以弱胜强，共歼敌1.1万。粟裕以他卓越的军事才能，开始了他由军事指挥员到卓越军事家的华丽转身。