第5支隊在路東征戰的同時，第4支隊也開辟了以藕塘為中心的津浦路西抗日根據地。
這時，蘇北的國民黨江蘇省政府主席韓德勤已派其第33師、獨6旅和收編的秦慶霖常備旅等部一萬多人，伸到淮河兩岸及路東天長、高郵、盱眙等地，企圖和津浦路西的桂軍相配合，将新四軍擠出皖東或消滅在皖東境内。
第5支隊的處境十分嚴峻，新四軍江北指揮部也處在很大的危險中。
其實迫切需要解決的不僅僅是江北新四軍生存與發展的問題，整個新四軍的發展戰略也急切需要籌劃。
在這關鍵時刻，1939年12月上旬，劉少奇和徐海東到達皖東定遠縣藕塘鎮附近新四軍江北指揮部。他們的到來，受到江北指揮部指揮張雲逸和政治部主任鄧子恢等人的熱烈歡迎。
這是劉少奇在抗戰期間第二次來華中。
第一次是在1938年年底至1939年年初，當時是為了貫徹中共六屆六中全會精神，中共中央派他坐鎮中共中央中原局所在地﹣﹣河南省确山縣竹溝鎮，執行中共中央确定的發展華中的任務。後因有事，劉少奇于1939年3月傳回延安，由朱理治代理主持中原局工作。
1939年夏天以後，華中形勢嚴峻：日本侵略軍已停止繼續向國民黨軍作戰略進攻，重點"掃蕩"占領區；蔣介石在各地制造的與八路軍、新四軍的摩擦事件疊起，華中又極其需要加強黨的上司。中共中央決定劉少奇偕同徐海東等四十餘名幹部，再抵竹溝鎮，上司中原局，加快發展華中的步伐。
當劉少奇一行到達竹溝時，竹溝鎮已經不很安全。中國共産黨上司的抗日武裝主力，已分三批奔赴皖東、豫東和鄂豫邊，留守處人員很少。國民黨頑固派正在周圍虎視眈眈，蠢蠢欲動。
長期的革命經驗告訴劉少奇，國民黨頑固派有可能對竹溝地區發動進攻，必須當機立斷，做出緊急布置。劉少奇立即召開緊急會議，指出竹溝是延安通向華中敵後的交通樞紐，但在軍事上則處于國民黨軍隊的包圍之中。随着國民黨反共高潮的到來，它必然是守不住了。竹溝的曆史任務已經光榮地完成了，要抓緊時間做好思想上、組織上的準備，該走的走，該隐蔽的隐蔽。
會後，劉少奇訓示朱理治即率竹溝大部從業人員、武裝部隊與教導隊，去豫鄂交界地區的四望山，集中注意力開展敵後工作，鞏固現有部隊，創造根據地，籌措給養，竹溝留守處盡量縮小，主要辦理後方勤務及交通事宜；調劉子久到竹溝主持河南及鄂西北黨的秘密工作，劉少奇自己即率中共中央中原局上司機關向皖東轉移。
果然，沒過多久，便發生了國民黨頑固派襲擊竹溝的慘案。劉少奇的先期行動，避免了一場更大的損失。
劉少奇到達新四軍江北指揮部後，于1939年12月中旬在滁縣、定遠交界處瓦屋薛村主持召開了第一次中原局會議。這次會上，劉少奇宣布了中共中央根據他的建議做出的決定，将新四軍江北指揮部指揮張雲逸、副指揮徐海東和河南省委書記劉子久增補為中原局委員，使中原局的上司機構進一步健全起來。
會議另一個更重要的議題，是解決新四軍的戰略發展方向。當時，新四軍第4、第5支隊雖然在津浦路兩側實行了初步戰略展開，但整個華中地區的工作還缺乏積極地、大膽地深入敵後的打算。長江以北的新四軍來自各方，各有自己的發展計劃：有的主張向西，有的主張向北；而中共中央東南局書記、新四軍副軍長項英則要求已經渡江北上的新四軍部隊重返江南。
如果新四軍發展方向的問題不解決，發展華中的戰略任務就無法實作。會上，劉少奇明确提出新四軍的發展方向不是向北，不是向西，更不是向南，而是按照中共中央的戰略意圖向東發展。他分析了華中的敵、我、友情況，指出：
如果向西發展，豫皖蘇邊和皖東地區都背靠國民黨統治地區，新四軍将同國民黨頑軍發生沖突，受到他們的限制，而且不易取得中間勢力的同情；
如果北上華北或者南渡長江，也不能打開新的局面；
而東面的蘇北地域遼闊，全屬敵後，有馳騁回旋的廣大地盤。國民黨江蘇省政府代主席韓德勤暗中勾結日僞，欺壓百姓，受到人民痛恨，群衆歡迎新四軍東進，上司他們進行抗日鬥争。蘇北物産豐富，又靠近山東，可以同八路軍互相依托，互相策應。是以，蘇北是新四軍的戰略突擊方向，應集中力量向這一地區發展。"如果不解決蘇北問題，八路軍和新四軍就不能打成一片，就不能建立鞏固的華中根據地。"
經過劉少奇的分析和中原局的充分讨論，會議确定了新四軍發展的方向。1939年12月19日，劉少奇緻電中共中央書記處、項英和彭雪楓：
"在武漢失守前後，大約有好幾個月時間，使我們完全有可能建立相當完滿的皖東抗日根據地，我們是失去了曆史發展這種特殊的窘迫。如果敵情及全國大局沒有大的變化，目前我們在皖東隻能求得某種有限度的發展，而有大發展希望的地區是在江蘇北部。""江蘇北部我們都沒有正［規］部隊及黨的機關去活動，亦無地方黨，而這又是有最大發展希望的地區，是以，這是我們的突擊方向，應集中最大力量向這方面發展。""如4、5支隊掃敵東進至蘇北，則後方難聯絡，皖東即會失去，且對蘇北地區不熟，不一定能立足，太冒險。""是以，依靠皖東、皖東北雪楓、愛萍地區向蘇北發展為最好，并可與山東聯系。""我們在淮陰以北發展，立定腳跟後，即可向南發展，即可配合7、8兩團及江南部隊向東、向北發展。""【《新四軍．文獻》(1)，第136-137頁。】
劉少奇發展蘇北的計劃得到中共中央的全力支援，中共中央書記處當即回電訓示新四軍："整個江北的新四軍應從安慶、合肥、懷遠、永城、夏邑之線起，廣泛猛烈地向東發展，一直發展到海邊上去，不到海邊絕不停止。"【《新四軍．文獻》(1)，第132頁。】
但由于突然到來的敵情和其他原因，劉少奇發展蘇北的計劃不得不被推遲實施和改變。
周家崗反"掃蕩"鬥争的勝利，擴大了中共和新四軍的政治影響，打開了抗戰的新局面。由此，新四軍在津浦路以西站穩了腳跟，為建立淮南抗日根據地奠定了堅實的基礎。
但皖東地區的這種嚴重敵情也改變了劉少奇原來打算從第4、第5支隊各抽調一部北渡淮河，會合豫東、皖東北的第6支隊發展蘇北的計劃，這是該計劃改變的第一個因素。
第二個因素是國民黨頑固派這時已在發動第一次反共高潮，加緊反共摩擦。韓德勤部有5個團的兵力向皖東地區推進，蘇魯戰區總司令于學忠部也有一支部隊向這個地區移動，使皖東局勢更見緊張，新四軍一時無力他顧。
第三個因素是新四軍内部指揮體制不順，戰略思想不統一。劉少奇在1939年12月19日做出的發展華中的工作部署，也抄送給項英，劉少奇提出從江南抽調兩個主力團到江北來。1940年1月11日，中共中央複電劉少奇和項英，同意抽調江南主力發展江北的要求。但項英認為，皖南在任何情況下非獨立行動以堅持江南不可，一切工作須按全國情形來布置，不能限于方面，也不能各自打算。項英認為："你的訓示确難遵行"，拒絕了劉少奇的抽調江南新四軍主力部隊向江北發展的要求，反而主張在不影響争取蘇北的條件下，由江南加強皖南力量。【《陳毅年譜》（上卷），第264頁。】而在豫皖蘇邊區的彭雪楓對向東發展也在猶豫。是以，劉少奇向中共中央請示：
在全國形勢緊張、國共摩擦加緊之情況下，4、5支隊部隊以不變更目前布置為好。前電建議抽調4、5支隊各一部去淮河北岸發展之計劃，是否取消？目前4、5支隊确定在原地區活動，加緊擴大部隊，整理訓練，組織遊擊隊，組織群衆，加強新四軍在這一地區的工作，求得生根與鞏固，以準備應付可能之武裝摩擦。【《劉少奇傳》，第363頁。】
這樣，在大力發展蘇北前，建立并鞏固皖東根據地已成為劉少奇首先需要解決的問題。1940年1月，劉少奇在定遠縣山黃家村主持召開第二次中原局會議，着重讨論這個問題。
劉少奇經過一個多月的了解，深深感到新四軍第4、第5支隊"在上司思想中有原則性的缺點，沒有堅定而明确的發展自己力量的方針，在建軍與精兵主義口号下，放松了發展。在統一戰線中對同盟者顧慮太多，常不肯超出同盟者意志之外去行動和發展，是以放棄了許多發展的機會。最近的部隊是縮小了，有槍無人背，每連五六十人至七八十人。創立根據地的思想弱，不具體了解，沒有用心去進行地方工作和解決部隊的給養，是以，部隊每月雖然有數萬元之津貼，仍是很困難"。
針對這些問題，劉少奇在會上批判了"一切經過統一戰線"的口号。他指出：發展抗日人民武裝，壯大人民力量，國民黨不會同意。"一切經過統一戰線"就是一切經過國民黨，這就把自己的手腳捆了起來。針對項英一再批評所謂"人、槍、款主義"，劉少奇旗幟鮮明地說道：有人反對"招兵買馬"。打日軍要用槍來打嘛！有槍就得有兵，為抗日招兵買馬有什麼不好？要放手擴大新四軍，擴大遊擊隊。有了兵，就要有個"家"！這個"家"就是根據地。曆史上的流寇主義，沒有一個能夠成功，抗日戰争沒有根據地也不可能取得勝利。有了根據地就要建立政權，有了政權就可以籌糧，籌款、收稅，部隊也不用向"人家"讨飯吃了。他分析了抗戰以來華中地區有些幹部強調"情況特殊"，沒有堅持執行中共中央關于大膽放手地向敵後發展的訓示，喪失了時機。他說，哪一個地區都有它不同于其他地區的特殊情況，這在分析、研究問題時必須注意，但各個地區還有一個"共性"，就是都在日軍的武裝進攻和武裝占領下，在那些地區有敵人、漢奸、僞政權，我們就可以打進去建立抗日根據地，這是我黨、我軍在抗日戰争中行動和發展的基本根據。隻強調情況特殊而不執行中央的正确訓示是錯誤的。【郭述申：《憶劉少奇在皖東的歲月》,《劉少奇在皖東》，中共黨史出版社1990年版，第105-106頁。】劉少奇耐心講解了抗日民族統一戰線中又團結又鬥争的方針。"會議研究決定建立根據地，确定對頑固派的鬥争政策，決定對廖磊、韓德勤差別對待。"【徐海東：《回憶在皖東召開的三次中原局會議》,《劉少奇在皖東》，中共黨史出版社1990年版，第103頁。】
經過劉少奇的耐心解釋，中共中央中原局、新四軍江北指揮部和第4、第5支隊的上司幹部統一了思想。1940年2月7日，中原局發出《關于建立蘇北、皖東北根據地的訓示》，指出：
八路軍、新四軍及黨的組織在蘇北及皖東北目前的總任務，是争取該地區成立黨所上司下的抗日反奸的根據地。實作這個任務的中心一環，是猛烈發展八路軍、新四軍及黨所上司的一切武裝部隊。而争取政權組織與發展群眾，建立和發展地方黨，肅清漢奸、投降派與頑固派對于我們的阻礙，都是實作這個任務的必要條件。而這個任務的實作，即在全國加強了抗戰的力量，加強了争取時局好轉和克服投降危險的必要條件。
八路軍、新四軍及黨的組織，必須獨立去發展自己的力量，自立自主地去組織遊擊隊、自衛軍和群眾，不必等待任何人的允許，不必與任何人商定所謂"共同綱領"，應完全依照我黨曆來的主張，獨立地去進行。對于盛子瑾、李明揚及其他一切進步分子加強統一戰線工作，目的是求得他們暫時不反對我們去進行工作和我們力量的發展，并盡可能求得他們對我們的某些幫助。我們絕不要去依靠他們，絕不要放松自己的工作與發展去和他們妥協，絕不要拘束自己在他們允許的範圍内。
在今年6月底，要在蘇皖邊建立與發展黨所上司的武裝至三萬人槍，組織不脫離生産的自衛軍30萬人，普通［建］農抗、工抗、青抗、婦抗，并須注意部隊的困［難］及籌措給養與自衛軍的訓練。
劉少奇這些明确的思想通過各級黨組織傳達貫徹下去，有效地解決了困擾華中各級黨組織多年的思想路線問題，振奮了幹部和群衆的精神。放手發動群衆、擴大部隊、建設根據地的工作，都以前所未有的規模，大刀闊斧地開展起來，出現了蓬蓬勃勃的新氣象【《劉少奇傳》，第365-367頁。】
1940年1月，新四軍第5支隊與江南指揮部所屬的蘇皖支隊在六合縣竹鎮會師。這兩支部隊并肩作戰，在秦欄鎮連續擊退由六合、天長出犯之日僞軍，殲其兩個中隊；在天長、六合交界處的橫山反擊日僞軍的合擊，斃傷日軍一百餘名、僞軍二百餘名，俘虜日軍2名。新四軍對日僞軍作戰的勝利，振奮了路東各縣群衆的抗日情緒，擴大了新四軍的影響。
同時，第5支隊也迅速抽調大批幹部，采取多種辦法，在路東各地進行擴軍工作。從1939年12月至1940年2月，共組織7個遊擊大隊、13個遊擊中隊。這些遊擊隊經過短期訓練和戰鬥鍛煉，大都被編入了主力部隊。短短3個月，全支隊即由二千多人發展到六千多人。
在津浦路西的第4支隊除積極打擊敵人外，還根據劉少奇關于猛烈擴大部隊、準備反摩擦的訓示，到處宣傳群衆，發展抗日武裝，迅速擴大部隊。經過短短3個月，全支隊由四千多人發展到6000人。