從1945年9月到12月，短短3個月内，我軍從關内各解放區抽調了一批部隊和幹部，總數約12萬人，挺進東北地區。如此大規模、跨地區調動部隊和幹部，在我軍曆史上還是第一次。
在挺進東北的部隊裡，既有八路軍，也有新四軍。在八路軍方面，主要是山東軍區第1師、第2師、第3師、第6師、第7師，第5師一部，魯中、濱海、膠東、渤海等軍區主力部隊各一部，共6萬餘人。在新四軍方面，主要是新四軍第3師，共3萬餘人。
以獨立建制的部隊來說，新四軍第3師是挺進東北地區最大的一支隊伍。
新四軍第3師是什麼來頭？
這支部隊的前身，可以追溯到八路軍第115師。
1937年8月，由中國工農紅軍第一、第十五軍團主力及陝南紅軍第七十四師合編而成，組建了八路軍3個主力師之一的第115師。1937年9月25日，第115師為了配合第二戰區的友軍作戰，在平型關伏擊有“鋼軍”之稱的日軍闆垣征四郎第5師團第21旅團一部及辎重車隊，取得了八路軍出師以來的第一個大勝仗。
第115師成立之初，下轄兩個旅，即第343旅、第344旅，加上師直屬獨立團、騎兵營、炮兵營、工兵營、辎重營、教導營共1.55萬人。在抗日戰争時期，第115師堅持抗戰，發動群衆，規模越來越大。1940年2月，第115五師第344旅、晉豫邊支隊、獨立遊擊支隊、決死第3縱隊和河北民軍第4團合編為八路軍第2縱隊。
1940年5月，八路軍第2縱隊政委黃克誠率領第344旅、新2旅共5個團約1.2萬餘人，由冀魯豫根據地南下，支援新四軍。當年8月，這支部隊中的新2旅、第344旅第678團與活躍在皖東北地區的新四軍蘇魯豫支隊、隴海南進支隊、第4總隊合并，組建成八路軍第5縱隊，歸中原局指揮，由黃克誠擔任司令員兼政治委員。
1941年震驚中外的“皖南事變”發生後，我軍将八路軍第5縱隊改編為新四軍第3師，由黃克誠擔任師長兼政治委員，彭雄任參謀長，下轄第7、第8、第9旅，共 2萬餘人。
接下來的4年裡，新四軍第3師建立了蘇北抗日根據地，打開了華中抗戰的新局面，打通了華北、華中兩大戰略區的聯系，并多次打敗日軍的進攻，一共殲滅日僞軍6萬餘人，到1945年開赴東北地區前夕，主力部隊已經發展到4 個旅和3個獨立團，共3.7萬人。
黃克誠率領新四軍第3師奔赴東北地區後，不再使用新四軍稱号，被編入東北人民自治軍。後來，東北人民自治軍先後改稱東北民主聯軍、東北野戰軍、第四野戰軍。
新四軍第3師的主力部隊組建成東北野戰軍主力縱隊之一的第2縱隊。其中，2縱第5師是東北野戰軍7個頭等主力師之一。
新四軍第3師第7旅與山東軍區的幾支部隊合并而成，組建為東北野戰軍第6縱隊，第7旅改編成6縱第16師，也是東北野戰軍7個頭等主力師之一。
另外，東北野戰軍第7縱隊第20師、第21師都有新四軍第3師的血脈。
可以毫不誇張地說，雖然新四軍第3師的番号已不複存在了，但這支有着優良傳統的部隊分散到東北野戰軍各縱隊裡，依然在各縱隊裡扮演主力角色。由此，新四軍第3師走出了許多軍史上赫赫有名的将領。
最有名氣的，當然是新四軍第3師師長兼政委黃克誠。黃克誠高度近視，隻能看清三四米，離開眼鏡就會寸步難行。可是，黃克誠極具戰略眼光，在抗日戰争勝利後第一個提出了向東北進軍的建議。是以，陳帥說他雖然是近視，卻是個千裡眼。
1955年，黃克誠被授予大将軍銜，排位第三。
除了黃克誠，新四軍第3師還走出了4位開國上将，分别是張愛萍、洪學智、劉震、韋國清。
張愛萍曆任新四軍第3師第8旅、第9旅旅長，新四軍第3師副師長等職。洪學智曆任新四軍第3師鹽阜軍分區司令員，新四軍第3師參謀長、副師長等職。劉震曆任新四軍第3師第10旅旅長兼淮海軍分區司令員。韋國清擔任過新四軍第3師第9旅政委。
此外，新四軍第3師還走出了一名開國中将吳信泉。吳信泉擔任過新四軍第3師第8旅政委。吳信泉一生最閃光的時刻，是在1950年率領王牌軍第39軍“雄赳赳氣昂昂，跨過鴨綠江”，參加抗美援朝戰争，并在雲山戰役裡重創号稱自美國獨立戰争組建以來160多年從無失敗紀錄的美國王牌部隊――騎兵第1師。