1946年年底，宿北战役刚刚结束，经过八、九天的讨论，中央与华野、山野达成鲁南作战的战略部署，决心华野主力北上入鲁与山东野战军完成歼灭进攻临沂的敌军；另外，为统一指挥经中央批准，华中野战军与山东野战军合并，华东野战军的建立终于迈出实质性的一步。
朱德与华东野战军同志
相比苏中解放区，国民党更注重对鲁南解放区的进攻，在华东战场25个师的敌军中有一半多的兵力用于进攻鲁南解放区，从徐州至枣庄敌军呈长蛇阵摆开，互相拱卫，关键时刻可以抱团救援，这是薛岳与粟裕较量半年多来总结的战斗经验。
宿北战役胜利后，国民党在南北两线损失近十万部队，作为南北两线绥靖负责人，薛岳与李默庵境遇相差甚大，李默庵虽然被粟裕打了个七战七败，但好在占领了长江沿岸诸镇，没有受到蒋介石的责罚，相反薛岳在苏北、鲁南虽然发动了几次战役但均无多大建树，在蒋介石面前碰了个灰头土脸；为此在宿北战役后，四路敌军除一路被全歼外，其他两路就地转入防御，只有进攻临沂的一路还保持进攻态势。
敌军趁山野主力南下之际占领临沂西南部的卞庄、向城，距临沂只有三十公里，在一字长蛇阵最前端的是国民党整编二十六师及第一快速纵队，师长马励武仗着这支蒋嫡系部队在鲁南横冲直撞。特别是第一快速纵队是蒋经国亲手创建的，武器先进还配有坦克等机动武器，这支部队曾在印缅战场上一往无前，甚得美军的称赞。
协同整编二十六师进攻的部队还有位于台儿庄附近的敌三十三军冯治安部，该部系西北军与中央军素来不和，再就是位于二十六师背后驻守枣庄的整编五十一师，三部相距仅三十公里呈品字形摆开。鲁南作战确定后，粟裕原计划先打较弱的敌三十三军，后来考虑到进攻鲁南的敌军太多，即使全歼整编三十三军也很难扭转鲁南局势，反而会过早地暴露我军实力和作战意图，为此粟裕向陈毅建议改打敌实力最强的整编二十六师和第一快速纵队，先弱后强，这是我军一贯的作战风格，然而在战略需要的情况下，反常规作战也是符合兵法以奇制胜的道理，更何况可以一次集中27个主力团，打敌军6个团占有绝对的优势；粟裕上一次反常规用兵还是在黄桥战役上，先打韩德勤的独立六师，时隔6年粟裕要再出奇兵。
粟裕
确定作战目标粟裕即命第一纵队(叶飞部)、第八师、第一师(陶勇部)从苏北秘密北上，与已经到达鲁南的第九师、第四师一个团、第十师和地方特务团会合。同时为遏制两淮及涟水方向的敌整编74师、桂系第七军等部，第二纵队、第六师、第七师、第九纵及第十三旅等部由谭震林指挥，在苏北沭阳一带打援。
作战方案提报中央后，中央军委指示：“
鲁南作战事关华东全局，此战胜利即使苏北各城全失，亦有办法恢复
”中央军委希望合并后的华东野战军打一场比宿北战役更大的歼灭战，以彻底改变华东局势。在中央号召下，全军上下坚定了鲁南作战的决心，政治上取得了前所未有的统一。
由于时间紧迫，具体的作战部署在北上的途中制定，粟裕决定将参与鲁南作战的部队分为左右两路，右路以第八师、第九师、第十师、第四师之十团及鲁南地区特务团组成，该部指挥由鲁中军区负责；左路以华野第一师和山野第一纵组成，归野战军直接指挥，从作战部署来看，粟裕对进军鲁南的第一仗还是非常谨慎的。
我军如此大规模军事行动，敌军竟然一无所知，当陶勇部向北急行军时，虽然被敌军飞机侦查到，但仍未引起前线指挥官马励武的重视，临近元旦他竟然擅离职守跑到后方峄城过年去了，酒过三巡后马励武竟扬言三天内攻入临沂城，不然就砍了自己脑袋，然后就醉醺醺地看戏去了。《风波亭》未启风波起，粟裕命令各部提前两小时发动进攻。
敌军正处在新年的快乐中，被四面八方的枪炮声打懵了，尤其是缺少前线指挥的情况下，部队变成没有组织的瞎子，马励武接到前线战报后赶紧给指挥部打电话结果电话线被我军切断，最后还是通过无线电向前线简单地作了一番部署，然后慌忙向前线赶，结果还未走多远便吓破胆的士兵哄了回来，马励武知道前线是回不去了。
鉴于宿北战役的教训，战前会议上粟裕就向前线指挥员反复强调，打整编二十六师一定要快，分割与包围同时进行，因此右路军一开打就迅速向敌军各部的结合点猛攻，第十师率先攻入傅山口，切断整敌军向枣庄的退路，同时阻击枣庄方向的援军；滨海警备旅攻占向城，切断了整编二十六师师部169旅的联系，其余右路部队也相继攻克平山、青山、凤凰山等敌军防御要点，完成了分割敌军的战役目的。
鲁南战役第一阶段攻势图
左路军是华东野战军最强的两支部队，最善于打硬仗、野战，进攻一开始1纵便围住驻守卞庄的一个团，主力部队直奔马家庄的二十六师师部和快速纵队，1师南下迂回占领兰陵、洪山等地切断二十六师与三十三军的联系，并与由四马寨南下的右路部队汇合；经过一夜的战斗，右路军消灭驻守太子堂的敌二十六师44旅大部，与左路军形成对敌整编二十六师分割包围的态势。
分割与包围虽然完成，但对于打敌第一快速纵队我军还是心存顾虑的，面对敌人的铁王八，许多战士还是第一次见，根本不知如何下手，整个华东野战军只有陈毅同志熟悉坦克的构造，战前会议上陈毅曾经讲过坦克弱点，粟裕明白理论与实践根本不是一回事，没有经过实战部队很难对第一纵队造成毁灭性打击，一旦被敌军坦克打开缺口，敌人很可能突破我军包围，因此粟裕命令对第一快速纵队先围而不打，硬骨头留到最后啃。
华东野战军缴获的坦克
1月4日华东野战军准备发动最后歼灭战，此时天突然下起雨雪，粟裕当即下令进攻计划不变，猬集于马家庄、陈家桥等地的第一快速纵队眼见救援无望，开始向西突围，坦克、汽车、火炮混杂着部队脱离战场，场面逐渐失去控制；只要有点战争常识的人都知道，大白天在对方重兵包围下脱离阵地是多么可怕，但此时的敌军根本顾不上了，仗着坦克开道向枣庄方向逃跑；结果没跑多远敌军连人带车陷入了漏汁湖泥沼地，寸步难行；紧接着华东野战军向敌人发起冲锋，两军冒雨在泥潭中展开了肉搏。
交战过程中敌军坦克不断向我军开火，解放军战士用炸药包、手榴弹炸坦克，甚至用铁锹、洋镐砸坦克天线、观察口，几小时后这支由蒋美合建的现代化部队彻底丧失了战斗力。一批批沾满泥土的俘虏被押送上岸，坦克、汽车、大炮满坡遍野，战士们兴奋地打扫战场，根本顾不上身上还穿着湿透的棉衣和冻伤的双手，一边打扫还一边讲述着打坦克的经过。
在聚歼整编二十六师和快速纵队的过程中，其他两路敌军也并非没有救援，敌三十三军一部进攻到横山，枣庄的五十一师进至四马寨、太平庄，两路敌军都被山东野战军打了回去，鉴于华东野战军攻势太猛，敌军只能眼睁睁地看着友军被全歼。此战华东野战军歼敌三万余人，缴获大量的武器装备，马励武感叹道：“
此诚余带兵以来对内外作战损失最惨痛之一役也
。”对于失败的原因马励武归结于，华东野战军有着完善的作战计划，国军孤军深入并且久立而不退，犯了兵家之大忌。
围歼整编二十六师及第一快速纵队是鲁南战役的第一阶段，此后华东野战军虽然扩大战果攻下枣庄全歼敌整编五十一师，单仅就战役影响来看，第一阶段意义更加重大，战役规模也创解放战争以来新高，两大野战军经过两次磨合彻底融合成具有统一指挥的华东野战军，粟裕战术思想进一步提高，眼光不再局限一隅，而是瞄向更在的华东地区乃至全国。