1947年5月10日，坐镇徐州负责指挥24个整编师（60个旅）45万大军，重点进攻山东解放区的国民党军陆军总司令顾祝同，命令所部向莒县、沂水、悦庄、淄博一线推进，“跟踪追剿”撤退至莱芜、新泰、蒙阴以东地区的中国人民解放军华东野战军。其具体部署是：汤恩伯的第一兵团进占坦埠、沂水一线；王敬久的第二兵团向博山、张店方向进攻；欧震的第三兵团集结于新泰、蒙阴地区，待第一、第二兵团进攻得手之后，再全力向东发展进攻，企图围歼华野主力于沂蒙山区，或者把华野主力赶过黄河。
第一兵团司令官汤恩伯在获悉华野主力东撤之后，一改其稳扎稳打的战法，不待第二、第三兵团统一行动，即以整编第74师、第25师于11日自垛庄、桃墟、青驼寺地区北犯，限于12日占领坦埠；同时，以第7军和整编第48师各一部由葛沟、河阳地区向苏村、界湖方向行动，策应第74师作战，主力集结于汤头、葛沟待机；以整编第83师一部兵力在第74师右翼向马牧池方向进攻，主力控制于青驼寺以北地区，为兵团预备队；以整编第65师仍担任蒙阴防御，并掩护第25师的左翼安全。
而华东野战军主力东移后，负责战役指挥的副司令员粟裕面对国民党军的步步紧逼，曾经考虑过两个歼敌方案：1，如果国民党军放胆前进，即适时集中主力，择其一路歼灭之；2，如果敌人仍然密集靠拢，步步为营，我则再后退一步，以攻取潍县为饵，诱歼援敌于运动之中。5月10日晚上，粟裕获悉汤恩伯兵团第7军及第48师的先头部队已经进占了沂水以南的苗家区、界湖,并可能继续向沂水进犯。
粟裕鉴于这两股敌人是第一兵团之最右翼，态势较为孤立，当即决心以第2、第7、第8纵队歼击该敌于沂水、苏村之间地区；同时以第1、第4、第9纵队进至坦埠、埠前庄以北、沂河以西地区，视机求得歼灭可能由蒙阴、桃墟东援之敌一部；以第3、第10纵队位于莱芜和口镇东北地区，牵制并相机歼灭北犯之敌。虽然作出了首先歼灭右翼之敌的决定，但粟裕并不认为第7军和第48师是理想的打击对象，因为这两支部队属于李宗仁、白崇禧的桂系，号称“猴子军”，打仗既狡猾又顽强，和他们作战往往俘获不多，常常打成消耗战。
华野的歼敌决心刚刚定下来，就接到了中央军委的指示：“敌有向淄博等地急进模样，你们应集中主力，待敌进到适当地点，不失时机发起反击，首先歼灭敌一、两个师；依陕北经验，敌增援能力不大，如有一定间隙，以有力一部筑工抗击，可使敌强大援军根本不能增援。”粟裕遵照这一指示，除了按照原计划调整部署之外，立即通知情报部门加强对整个战场的侦察，严密监视敌军的动向，密切注视敌情的细微变化，以便寻找更加有利的战机。
5月11日，国民党军第一兵团各部根据汤恩伯的命令开始北犯。当天，第74师占领重山、艾山一线，一部渡过汶河，攻击第9纵队杨家寨、孤山阵地被击退。该师的行动最为最积极，态势相对突出。其左翼第25师一个旅进占黄斗顶山，其右翼第83师一部进占孙祖，但这两个师的行动都比较谨慎，进展有限。
当天晚上，华野技术侦察部门截获了汤恩伯限令整编第74师于5月12日攻占坦埠的电报，这是一份事关全局的重要情报。粟裕为此沉思了半个小时，他以十分慎重的态度要情报处核实其准确性，并进一步搜集相关情报。根据从各个渠道获得的情报，华野司令部连夜查明了汤恩伯兵团的作战部署：
以整编第74师为中心，整编第25师、整编第83师为左右翼；又以整编第65师保障整编第25师翼侧，第7军和整编第48师保障整编第83师翼侧，限于12日(后改为14日)攻占坦埠。同时查明，王敬久兵团的第5军、欧震兵团的整编第11师等部已由莱芜、新泰出动向东进犯。左右两翼国民党军和整编第74师相距只有1到2天的行程。
根据国民党军的进攻部署，粟裕判明了敌人的行动企图：汤恩伯显然是以整编第74师为主要突击力量，在两翼和后续强大兵团掩护下，对华东野战军实施中央突破，进攻矛头直指华野指挥部驻地坦埠，企图一举击中华野指挥中心，陷华野于混乱和四面包围之中，聚歼华野主力于沂蒙山区，或者将华野逼至胶东一隅，或是赶过黄河。
粟裕敏锐地意识到，这是一个难得的有利战机，立即提出了新的作战方案：不打右翼的第7军和整编第48师，而改打位于中路的战斗力最强的敌精锐主力整编第74师。迅速就近调集几个强有力的部队，以“猛虎掏心”的战法，以中央突破对付敌人的中央突破，从敌人密集战斗队形的中央楔入，切断整编第74师与其左右翼的联系，将其歼灭于坦埠以南、孟良崮以北地区。
粟裕这一新的作战决心，是在充分把握、辩证分析敌我态势及其发展趋势，反复权衡两种作战方案的利弊得失的基础之上，所作出的科学结论，其依据主要有4点：
1、整编第74师虽然是国民党军精锐主力之一,战斗力较强，又处于战线中央，左右援兵较多且距离较近;但是该部已经全部展开而且处于不利地形，粮弹携行量不足；态势也较为突出，与其左右友邻部队有一定的间隙；加上该师平时骄横跋扈，不可一世，同国民党军其他部队矛盾很深，一旦被围，其他敌军不会奋力救援，便于我军将其分割歼灭。
2、我军主力正好集结在其正面，不需要作大的部署调整，有5个纵队可以就近转用，兵力优势5倍于敌，围歼该敌有足够的兵力；特别是隐伏在敌后的第6纵队，如果隐蔽向北急进,可收奇袭和迅速切断敌人后路之效；况且自解放战争开始以来，整编第74师常打头阵，气焰嚣张，是华野的死对头，全体指战员对该敌早有“灭此朝食”的强烈要求。情绪高涨，士气旺盛，必胜信心充足。
3、该地区系我鲁中解放区腹地，群众条件极好，民兵组织坚强；地区多山，地形复杂，公路少而窄，便于我隐蔽集结，寻隙穿插，而不便于敌人重装备部队运动，是最理想的歼敌战场。
4、整编第74师是国民党军的精锐主力，歼灭该敌，必将极大地震撼敌军，严重挫伤其士气，给敌军以实力上精神上最为沉重的打击，同时对我军指战员则是一个最大的鼓舞，可以立即挫败敌人的进攻，进而迅速改变战场态势，从而扭转华东战局。
决心已下，粟裕立即调整战役部署：以第1、4、6、8、9等五个纵队担任围歼任务，其中以第1、第8两个纵队分别从整编第74师左右两翼穿插迂回，抢占芦山阵地，并配合由鲁南北返的第6纵队断其退路，封闭合围口；以第4、第9两个纵队从正面出击。5个纵队协同围歼该敌。另以第2、3、7、10等四个纵队担任对各路敌军的阻击和牵制任务。
5月12日晨，陈毅、粟裕发出歼灭整编第74师的作战命令，战役预定于13日黄昏发起。张灵甫和他的“御林军”，即将进入生命的倒计时。
《孙子兵法》有云：“兵无常势，水无常形，能因敌变化而取胜者，谓之神。”对于这句话，粟裕当之无愧！