1946年，在宿北战役中，华野虽然重击了敌四路进攻军中的一路，但并未改变其他三路咄咄逼人之势，形势依然十分严峻。
华野如何摆脱被动局面？
只有继续打一个大歼灭战，重击敌军。
权衡战局，中共上下都瞄准了鲁南。
进攻鲁南的这一路敌军，为敌整26师、整51师、整33师。其中，整26师及第1快速纵队为蒋介石的嫡系部队，由师长马励武指挥，全部美式装备，是敌三个师中的主力。消灭了它，华东战局即可好转。
可是，整26师和第1快速纵队是强敌，有战斗力，能去打它吗？
粟裕认为打它，华野是有优势的：一、它孤军突出态势，对它不利；二、它与整编59师有矛盾，一旦挨打，后者不会积极增援；三、先打强敌，我军虽有不利因素但也有有利条件，特别是战役一开始，华野就可集中27个主力团。这样，以27个团打敌6个团，兵力4倍半于敌，占有绝对优势。
华野反常用兵，首先歼灭强敌马励武部的作战部署由此确定。
1947年1月2日，鲁南战役开始发起。
参战部队一律夜行晓宿，隐蔽开进，前往指定地域集结待命，以一开战即突然发起进攻，迅速包围分割，各个歼敌。
不料，1师师长陶勇率部越过陇海路时，被敌空军侦察发现。他连忙请示粟裕：“是否继续昼夜兼程？”
粟裕回答：“继续走。”
为什么？
粟裕决定将计就计，造成敌人的错觉。为此，他下令陶勇：“以营连为单位继续白天行军。”
马励武见此情景，分析说：“共军一贯夜间行动，现在竟在白天行军，共军败退山东，不堪再战。”
结果，华野主力包抄过来，提前两小时发起攻击。经过一夜激战，歼灭整26师师部及两个旅大部，将整26部和第1快速纵队包围在一个狭小地区。
1月4日，华野对残部发起总攻。
结果，在总攻开始前，天空突然雨雪交加，顿时坑里积雪，道路泥泞难行。参谋请示粟裕：“计划有无改变？”
粟裕果断地说：“不变！这是天老爷帮我们的忙。雨雪交加，道路难行，把敌人的重装备陷在那里，就更难逃脱了。”
华野各部奉令冒雪攻击，迅速全歼了号称“国军精华”的第1快速纵队。
这时，马励武还畏缩在枣庄。
原来的作战计划并无攻击枣庄之举，只有打峄县的预案。粟裕只打下峄县不行，还要攻克枣庄，我才能改变战局。因为枣庄是敌军在鲁南的重要据点之一，位于华野出击方向翼侧，如果不打下它，敌军就能依托这个据点从侧后攻击华野。于是，粟裕决定继续再战，同时攻取峄县、枣庄。
1月9日晚，峄县战斗发起攻击，华野只用了两小时即全歼敌守军，活捉敌中将师长马励武。这时，驻守枣庄的敌整51师，还在狂妄地自吹枣庄“固若金汤”。同时，敌整11师及整64师、整74师等强敌均已出动增援枣庄。
1月19日下午，粟裕下令华野对枣庄守军发起总攻。到20日13时，全歼敌整51师师部及两个团，活捉中将师长周毓英以下官兵3700人。华野一攻下枣庄，敌多路援军竟然吓得均不敢放胆前进。
至此，鲁南战役胜利结束。华野全歼敌整26师、整51师和第1快速纵队共5.3万余人，活捉两个中将师长，创造了华东战场上一个战役歼灭敌人数的新纪录。毛主席两次地致电陈毅、粟裕：
“枣庄攻克，51师全歼，甚好甚慰。望对有功将土予以嘉奖”。
“鲁南胜利，局面打开，我已夺取主动，敌已陷被动”。