第5支队在路东征战的同时，第4支队也开辟了以藕塘为中心的津浦路西抗日根据地。
这时，苏北的国民党江苏省政府主席韩德勤已派其第33师、独6旅和收编的秦庆霖常备旅等部一万多人，伸到淮河两岸及路东天长、高邮、盱眙等地，企图和津浦路西的桂军相配合，将新四军挤出皖东或消灭在皖东境内。
第5支队的处境十分严峻，新四军江北指挥部也处在很大的危险中。
其实迫切需要解决的不仅仅是江北新四军生存与发展的问题，整个新四军的发展战略也急切需要筹划。
在这关键时刻，1939年12月上旬，刘少奇和徐海东到达皖东定远县藕塘镇附近新四军江北指挥部。他们的到来，受到江北指挥部指挥张云逸和政治部主任邓子恢等人的热烈欢迎。
这是刘少奇在抗战期间第二次来华中。
第一次是在1938年年底至1939年年初，当时是为了贯彻中共六届六中全会精神，中共中央派他坐镇中共中央中原局所在地﹣﹣河南省确山县竹沟镇，执行中共中央确定的发展华中的任务。后因有事，刘少奇于1939年3月返回延安，由朱理治代理主持中原局工作。
1939年夏天以后，华中形势严峻：日本侵略军已停止继续向国民党军作战略进攻，重点"扫荡"占领区；蒋介石在各地制造的与八路军、新四军的摩擦事件迭起，华中又极其需要加强党的领导。中共中央决定刘少奇偕同徐海东等四十余名干部，再抵竹沟镇，领导中原局，加快发展华中的步伐。
当刘少奇一行到达竹沟时，竹沟镇已经不很安全。中国共产党领导的抗日武装主力，已分三批奔赴皖东、豫东和鄂豫边，留守处人员很少。国民党顽固派正在周围虎视眈眈，蠢蠢欲动。
长期的革命经验告诉刘少奇，国民党顽固派有可能对竹沟地区发动进攻，必须当机立断，做出紧急布置。刘少奇立即召开紧急会议，指出竹沟是延安通向华中敌后的交通枢纽，但在军事上则处于国民党军队的包围之中。随着国民党反共高潮的到来，它必然是守不住了。竹沟的历史任务已经光荣地完成了，要抓紧时间做好思想上、组织上的准备，该走的走，该隐蔽的隐蔽。
会后，刘少奇指示朱理治即率竹沟大部工作人员、武装部队与教导队，去豫鄂交界地区的四望山，集中注意力开展敌后工作，巩固现有部队，创造根据地，筹措给养，竹沟留守处尽量缩小，主要办理后方勤务及交通事宜；调刘子久到竹沟主持河南及鄂西北党的秘密工作，刘少奇自己即率中共中央中原局领导机关向皖东转移。
果然，没过多久，便发生了国民党顽固派袭击竹沟的惨案。刘少奇的先期行动，避免了一场更大的损失。
刘少奇到达新四军江北指挥部后，于1939年12月中旬在滁县、定远交界处瓦屋薛村主持召开了第一次中原局会议。这次会上，刘少奇宣布了中共中央根据他的建议做出的决定，将新四军江北指挥部指挥张云逸、副指挥徐海东和河南省委书记刘子久增补为中原局委员，使中原局的领导机构进一步健全起来。
会议另一个更重要的议题，是解决新四军的战略发展方向。当时，新四军第4、第5支队虽然在津浦路两侧实行了初步战略展开，但整个华中地区的工作还缺乏积极地、大胆地深入敌后的打算。长江以北的新四军来自各方，各有自己的发展计划：有的主张向西，有的主张向北；而中共中央东南局书记、新四军副军长项英则要求已经渡江北上的新四军部队重返江南。
如果新四军发展方向的问题不解决，发展华中的战略任务就无法实现。会上，刘少奇明确提出新四军的发展方向不是向北，不是向西，更不是向南，而是按照中共中央的战略意图向东发展。他分析了华中的敌、我、友情况，指出：
如果向西发展，豫皖苏边和皖东地区都背靠国民党统治地区，新四军将同国民党顽军发生冲突，受到他们的限制，而且不易取得中间势力的同情；
如果北上华北或者南渡长江，也不能打开新的局面；
而东面的苏北地域辽阔，全属敌后，有驰骋回旋的广大地盘。国民党江苏省政府代主席韩德勤暗中勾结日伪，欺压百姓，受到人民痛恨，群众欢迎新四军东进，领导他们进行抗日斗争。苏北物产丰富，又靠近山东，可以同八路军相互依托，相互策应。因此，苏北是新四军的战略突击方向，应集中力量向这一地区发展。"如果不解决苏北问题，八路军和新四军就不能打成一片，就不能建立巩固的华中根据地。"
经过刘少奇的分析和中原局的充分讨论，会议确定了新四军发展的方向。1939年12月19日，刘少奇致电中共中央书记处、项英和彭雪枫：
"在武汉失守前后，大约有好几个月时间，使我们完全有可能建立相当完满的皖东抗日根据地，我们是失去了历史发展这种特殊的窘迫。如果敌情及全国大局没有大的变化，目前我们在皖东只能求得某种有限度的发展，而有大发展希望的地区是在江苏北部。""江苏北部我们都没有正［规］部队及党的机关去活动，亦无地方党，而这又是有最大发展希望的地区，因此，这是我们的突击方向，应集中最大力量向这方面发展。""如4、5支队扫敌东进至苏北，则后方难联络，皖东即会失去，且对苏北地区不熟，不一定能立足，太冒险。""因此，依靠皖东、皖东北雪枫、爱萍地区向苏北发展为最好，并可与山东联系。""我们在淮阴以北发展，立定脚跟后，即可向南发展，即可配合7、8两团及江南部队向东、向北发展。""【《新四军．文献》(1)，第136-137页。】
刘少奇发展苏北的计划得到中共中央的全力支持，中共中央书记处当即回电指示新四军："整个江北的新四军应从安庆、合肥、怀远、永城、夏邑之线起，广泛猛烈地向东发展，一直发展到海边上去，不到海边绝不停止。"【《新四军．文献》(1)，第132页。】
但由于突然到来的敌情和其他原因，刘少奇发展苏北的计划不得不被推迟实施和改变。
周家岗反"扫荡"斗争的胜利，扩大了中共和新四军的政治影响，打开了抗战的新局面。由此，新四军在津浦路以西站稳了脚跟，为创建淮南抗日根据地奠定了坚实的基础。
但皖东地区的这种严重敌情也改变了刘少奇原来打算从第4、第5支队各抽调一部北渡淮河，会合豫东、皖东北的第6支队发展苏北的计划，这是该计划改变的第一个因素。
第二个因素是国民党顽固派这时已在发动第一次反共高潮，加紧反共摩擦。韩德勤部有5个团的兵力向皖东地区推进，苏鲁战区总司令于学忠部也有一支部队向这个地区移动，使皖东局势更见紧张，新四军一时无力他顾。
第三个因素是新四军内部指挥体制不顺，战略思想不统一。刘少奇在1939年12月19日做出的发展华中的工作部署，也抄送给项英，刘少奇提出从江南抽调两个主力团到江北来。1940年1月11日，中共中央复电刘少奇和项英，同意抽调江南主力发展江北的要求。但项英认为，皖南在任何情况下非独立行动以坚持江南不可，一切工作须按全国情形来布置，不能限于方面，也不能各自打算。项英认为："你的指示确难遵行"，拒绝了刘少奇的抽调江南新四军主力部队向江北发展的要求，反而主张在不影响争取苏北的条件下，由江南加强皖南力量。【《陈毅年谱》（上卷），第264页。】而在豫皖苏边区的彭雪枫对向东发展也在犹豫。因此，刘少奇向中共中央请示：
在全国形势紧张、国共摩擦加紧之情况下，4、5支队部队以不变更目前布置为好。前电建议抽调4、5支队各一部去淮河北岸发展之计划，是否取消？目前4、5支队确定在原地区活动，加紧扩大部队，整理训练，组织游击队，组织群众，加强新四军在这一地区的工作，求得生根与巩固，以准备应付可能之武装摩擦。【《刘少奇传》，第363页。】
这样，在大力发展苏北前，建立并巩固皖东根据地已成为刘少奇首先需要解决的问题。1940年1月，刘少奇在定远县山黄家村主持召开第二次中原局会议，着重讨论这个问题。
刘少奇经过一个多月的了解，深深感到新四军第4、第5支队"在领导思想中有原则性的缺点，没有坚定而明确的发展自己力量的方针，在建军与精兵主义口号下，放松了发展。在统一战线中对同盟者顾虑太多，常不肯超出同盟者意志之外去行动和发展，因此放弃了许多发展的机会。最近的部队是缩小了，有枪无人背，每连五六十人至七八十人。创立根据地的思想弱，不具体了解，没有用心去进行地方工作和解决部队的给养，因此，部队每月虽然有数万元之津贴，仍是很困难"。
针对这些问题，刘少奇在会上批判了"一切经过统一战线"的口号。他指出：发展抗日人民武装，壮大人民力量，国民党不会同意。"一切经过统一战线"就是一切经过国民党，这就把自己的手脚捆了起来。针对项英一再批评所谓"人、枪、款主义"，刘少奇旗帜鲜明地说道：有人反对"招兵买马"。打日军要用枪来打嘛！有枪就得有兵，为抗日招兵买马有什么不好？要放手扩大新四军，扩大游击队。有了兵，就要有个"家"！这个"家"就是根据地。历史上的流寇主义，没有一个能够成功，抗日战争没有根据地也不可能取得胜利。有了根据地就要建立政权，有了政权就可以筹粮，筹款、收税，部队也不用向"人家"讨饭吃了。他分析了抗战以来华中地区有些干部强调"情况特殊"，没有坚持执行中共中央关于大胆放手地向敌后发展的指示，丧失了时机。他说，哪一个地区都有它不同于其他地区的特殊情况，这在分析、研究问题时必须注意，但各个地区还有一个"共性"，就是都在日军的武装进攻和武装占领下，在那些地区有敌人、汉奸、伪政权，我们就可以打进去建立抗日根据地，这是我党、我军在抗日战争中行动和发展的基本根据。只强调情况特殊而不执行中央的正确指示是错误的。【郭述申：《忆刘少奇在皖东的岁月》,《刘少奇在皖东》，中共党史出版社1990年版，第105-106页。】刘少奇耐心讲解了抗日民族统一战线中又团结又斗争的方针。"会议研究决定建立根据地，确定对顽固派的斗争策略，决定对廖磊、韩德勤区别对待。"【徐海东：《回忆在皖东召开的三次中原局会议》,《刘少奇在皖东》，中共党史出版社1990年版，第103页。】
经过刘少奇的耐心解释，中共中央中原局、新四军江北指挥部和第4、第5支队的领导干部统一了思想。1940年2月7日，中原局发出《关于建立苏北、皖东北根据地的指示》，指出：
八路军、新四军及党的组织在苏北及皖东北目前的总任务，是争取该地区成立党所领导下的抗日反奸的根据地。实现这个任务的中心一环，是猛烈发展八路军、新四军及党所领导的一切武装部队。而争取政权组织与发展民众，建立和发展地方党，肃清汉奸、投降派与顽固派对于我们的阻碍，都是实现这个任务的必要条件。而这个任务的实现，即在全国加强了抗战的力量，加强了争取时局好转和克服投降危险的必要条件。
八路军、新四军及党的组织，必须独立去发展自己的力量，自立自主地去组织游击队、自卫军和民众，不必等待任何人的允许，不必与任何人商定所谓"共同纲领"，应完全依照我党历来的主张，独立地去进行。对于盛子瑾、李明扬及其他一切进步分子加强统一战线工作，目的是求得他们暂时不反对我们去进行工作和我们力量的发展，并尽可能求得他们对我们的某些帮助。我们绝不要去依靠他们，绝不要放松自己的工作与发展去和他们妥协，绝不要拘束自己在他们允许的范围内。
在今年6月底，要在苏皖边建立与发展党所领导的武装至三万人枪，组织不脱离生产的自卫军30万人，普通［建］农抗、工抗、青抗、妇抗，并须注意部队的困［难］及筹措给养与自卫军的训练。
刘少奇这些明确的思想通过各级党组织传达贯彻下去，有效地解决了困扰华中各级党组织多年的思想路线问题，振奋了干部和群众的精神。放手发动群众、扩大部队、建设根据地的工作，都以前所未有的规模，大刀阔斧地开展起来，出现了蓬蓬勃勃的新气象【《刘少奇传》，第365-367页。】
1940年1月，新四军第5支队与江南指挥部所属的苏皖支队在六合县竹镇会师。这两支部队并肩作战，在秦栏镇连续击退由六合、天长出犯之日伪军，歼其两个中队；在天长、六合交界处的横山反击日伪军的合击，毙伤日军一百余名、伪军二百余名，俘虏日军2名。新四军对日伪军作战的胜利，振奋了路东各县群众的抗日情绪，扩大了新四军的影响。
同时，第5支队也迅速抽调大批干部，采取多种办法，在路东各地进行扩军工作。从1939年12月至1940年2月，共组织7个游击大队、13个游击中队。这些游击队经过短期训练和战斗锻炼，大都被编入了主力部队。短短3个月，全支队即由二千多人发展到六千多人。
在津浦路西的第4支队除积极打击敌人外，还根据刘少奇关于猛烈扩大部队、准备反摩擦的指示，到处宣传群众，发展抗日武装，迅速扩大部队。经过短短3个月，全支队由四千多人发展到6000人。