截止到1947年，华东战场形势发生巨大变化，在过去半年多的时间里，华东解放军从苏中打到苏北、再打到鲁中南，战争从前沿阵地不断向解放区纵深扩展解；战争的规模是越打越大，从最初的华野独立作战到鲁南战役两大野战军联合作战，不同解放区实现了从战略协同向战役协同作战的转变，参战人数越来越多，从最初2万多人的运动战到十几万人的大歼灭战，歼敌人数越来越多，仅鲁南战役一役，便歼敌5万多人。在半年多的时间内，华东解放军消灭国民党有生力量近20万人，完成了中央指示的大量歼敌有生力量的目标，双方势力正逐步走向平衡。
1947年春天，根据中央指示，山东野战军与华中野战军整编为华东野战军，形成了以陈毅为司令员兼政委、粟裕为副司令员、谭震林为副政委、陈士榘为参谋长的指挥班子，华东野战军下辖10个纵队一个特种兵总队(不含两个内线作战的纵队)，作战人员约有27.5万人；其作战能力经过几次重大战役尤其是鲁南战役磨合后大幅提升；整编后的华东野战军指挥系统更加灵活，编制更加精炼，武器装备大幅改善，面貌焕然一新。
对于华东战场的形势国民党有着不同的看法，在过去半年内国民党虽然损失20万部队，但却把解放军从苏中逼到鲁中南，完成内战爆发初期蒋介石制定的将“
匪军赶到陇海线以北
”的目标，因此从战略上来说是胜利的；参谋长陈诚在一份军情分析中写道“
共军大势已去
”，“
国军部队虽略受损失，但就全盘战局而言，实属莫大之成功
”，正是基于这样的判断，蒋介石在鲁南战役后就迫不及待地发动“鲁南会战”，认为解放军刚刚经历一场大战，还未来得及休整，战斗力还未恢复，另外临沂城乃是山东解放区首府，此时进攻一定会逼迫华野主力于鲁南决战。
1947年1月31日，鲁南战役刚刚结束不到10天，国民党调集8个整编师20个整编旅为南线突击集团，分三路从陇海路向临沂进攻；另外三个军9个师从胶济线南下，以李仙州为总指挥，此为北线辅助突击集团；两路大军南北对进，企图夹击集结于临沂附近的华东野战军；另外，为防止我军从鲁西南逃走，蒋介石还专门从冀南、豫北调来王敬久集团1个军3个师，作为西路部队随时投入鲁中、鲁南作战；鉴于前几场战役的失败教训，负责此次进攻的总指挥陈诚动了一番心思，为避免再次被我军分割歼灭，陈诚命令各路大军采取“
集中兵力，稳扎稳打，齐头并进，避免突出
”的战法。
根据敌情，陈毅、粟裕也制定了一份作战计划，准备集中50个团先粉碎南线敌军，作战意图是放手诱敌至临沂以南地区，以一个主力纵队正面阻击敌中路部队，诱使左右两路敌军突出，然后集中主力歼灭易于歼灭的一路；此作战方案偏于保守，在2月3日的尝试性进攻中敌军不仅没有突进，相反左右两路部队有向中间靠拢的趋势；我军作战历来是战略上以少胜多，战役上以多胜少，南线敌军重兵密集不易分割，北线敌军又趁势占领莱芜，给华东野战军留的时间和空间都不多了。
南线敌军进攻方向
关键时刻中央来电指示“
必要时可放弃临沂
”，这给粟裕极大的战略思维空间，使他在战役指挥上不再局限于以“保卫临沂”为中心的作战目标上，而是把目光投向以歼灭敌人有生力量、粉碎敌人进攻的战略目标上，没有临沂城这个“大包袱”粟裕的作战灵感随之而来。粟裕以为，南线之敌人数众多又猬集一起，不利于我军于运动中歼敌；相反北线敌军兵力较少，又都是杂牌军，且有孤军深入的趋势，便于我军分割歼敌。由此粟裕冒出了一个大胆的想法，那便是舍弃南线之敌，主力秘密北上对李仙州集团以突然打击。
就在粟裕分析北上歼敌的可行性时，陈毅也提出“舍南取北”的战略思想，与其把战机浪费在南线上，不如主力北上，以绝对的优势歼灭李仙州部队；自解放战争以来，陈毅与粟裕一直有外线作战和内线作战的战略方向之争，这次战略上难得不谋而合；陈毅要求粟裕详细分析北上作战战役上的可行性，粟裕以为如果以一到二个纵队留在临沂附近与敌周旋，并做出主力部队南下决战的意图，同时主力秘密北上，以最快的速度包围李仙州部队，在适当的时候放弃临沂，这样即使敌人发现我军意图时，也为时已晚。
在给中央电报中，粟裕着重强调北上歼敌的积极意义，夺取胶济线威胁济南，吸引南线之敌北上，然后在鲁中地区相机歼灭敌人；很快中央同意粟裕作战方案，认为如此可以调动敌军，扭转我军被动决战的不利局势。这样，一场大战在中央与前线指挥官之间的讨论中形成了。
“舍南取北”最大的困难不在于歼敌，而在于如何掩藏作战动机，粟裕以为即使北线敌军缩回去，我军北上仍有重大机会，但如此未免给这次绝妙的作战留下遗憾，于是粟裕开始紧张地布局。首先是迷惑南线之敌，以第二纵队发起讨伐郝鹏举的战役，以吸引敌人向东增援(估计很难)，然后主力集结于临沂附近做出与敌决战之假象；其次，以第二、第三纵队假扮主力，在临沂以南地区展开正面防御，以示我军力保临沂之决心；第三，粟裕估计敌人占领临沂城不会太晚，要尽量拖延我军北上之作战意图这些工作还不够，于是又命地方武装假扮主力进逼兖州，在运河上架起浮桥、在黄河岸边筹集渔船，做出我军放弃临沂后向西转移俗与刘邓会合的假象。
为了拖延两线敌军对进速度，进一步作出我军决战假象，粟裕又在南北两线巧设疑兵，命令第七纵队一个旅于陇海路阻击敌七十四师，鲁中军区地方部队阻击由莱芜南下之敌四十六军，并打出了主力部队的旗帜。一切准备工作做好后，2月10日陈毅、粟裕下令向北秘密转移，主力部队迅速启程，冒着雨雪穿梭于沂蒙山的崇山峻岭中，与此同时近60万支前民工也靠着肩挑、独轮车等原始办法将集结于临沂城的数以千万计的粮食和弹药向北转送，华东野战军在鲁中父老乡亲的帮助下顺利实现了紧急大转移。
北线李仙州兵力部署
不久，前线侦查同志传来北线敌军情报，李仙州所率七十三军军部及十五师位于颜庄，第一九三、第七十七师分别位于淄博附近，第十二军军部率两个师位于莱芜、口镇，第四十六师位于新泰地区；粟裕根据敌情迅速给各部队下达集结命令，主力部队分左右两路进入伏击点。2月15日，南线留守部队节节抵抗最后放弃临沂，国民党大军占领一座空城，敌各路部队向蒋介石邀功，扬言“
歼灭匪军16个旅，华东野战军全线溃退
”“
已无力再与国军决战
”，甚至有指挥官做出“
匪军向西逃窜，欲与刘邓部会合
”的判断。
粟裕示形于南的部署看似瞒过了南线之敌，但国民党中也不乏能人，第二绥靖区司令长官王耀武就看出了问题，南线国军未经历大战便占领临沂，判断我军主力可能改变作战方向，唯一的可能便是北线的李仙州部队，于是迅速下令李仙州部队全线后撤，并向陈诚要求“
准予机动作战
”。蒋介石与陈诚在南线部队的忽悠下已无法做出正确判断，他们坚信华野主力“
已经被击溃，有过黄河避战之企图
”，严令李仙洲部队“
恢复战前态势
”以达到南北夹击的目的。王耀武无奈只能无奈地接受命令。
王耀武(左一)与卢汉、张发奎等国军名将
“兵以诈立”蒋介石与前线指挥官产生不同的判断，完全是粟裕诈的合理、诈的可信，符合一般的战争规律，迎合了敌军的心理，
“攻其所必守”
鲁南会战初国民党判断我军必守临沂，因此临沂决战势在必行，粟裕正是基于一条件才决定在临沂南示敌以形的。但由于王耀武的谨慎，致使北线敌军在我军进入伏击地点时先后发生了四次较大的变化，尤其是第一次，李仙州部7万人向北缩，当时华东野战军尚未完成对莱芜的包围，眼见敌军要跑许多前线指挥官建议提前发动进攻，这样最少也能切掉敌军一个尾巴。
对于是否提前出击，粟裕认为即使能抓住敌军一个尾巴，也不能对北线敌情产生多大的影响，北线敌军全部逃跑，我军北上从战役上来说仍大有可为，因此没有必要提前暴露作战意图；不久王耀武在蒋介石压力下把四十六师调回新泰证明我军作战意图仍未暴露，这坚定了莱芜歼敌的决心。2月20日，北线部队第三次发生重大变动，王耀武命令新泰、莱芜之敌北撤，同时命令七十七师经下博南下；此时华东野战军经过10多天的准备，大部分主力部队已进入伏击点，粟裕果断下令部队出击，先歼灭南下之七十七师，阻断敌北上之路；不久左路部队攻占莱芜以北之吐丝口镇，莱芜以南的部队成为瓮中之鳖。
围歼李仙州部
莱芜战役历时三天，歼敌5.6万人，活捉李仙州，超前完成了中央给予的一个月到一个半月内歼敌10个旅的任务，其歼敌之多、作战之快、部队调动之迅速、损失之少创解放战争以来新的记录；莱芜战役后，华东野战军实力再次得到提升，同时夺取了胶济线附近主动权，打通了胶东、渤海、鲁中解放区的联系，为华野下一步作战创造了有利形势。另外，从战役角度讲，莱芜战役体现了我军超长的指挥才能，“示形以南，击敌于北”的谋略让国民党高级将领害怕，战后王耀武高呼：“
莱芜战役，损失惨重，百年教训，刻骨铭心
”。