1949年2月，为便于指挥大规模兵团渡江南下作战，华东野战军被改编为了第三野战军，同时在军级作战单位之上组建了四大兵团（作战番号为第7、第8、第9、第10兵团）。当时按照作战计划，第三野战军和华东军区总部机关均要跟随部队南下，这样一来为加强山东地区的军队建设，我军重建了山东军区。那么，在山东军区重建之后，最初担任司令员和副司令员的都是谁呢？让我们接着往下看。
从军区历史沿革来看，山东军区成立于抗日战争时期，1942年8月八路军山东纵队改称八路军山东军区。不过，到了1943年3月，为了统一指挥山东地区的抗日武装力量，八路军山东军区与八路军第115师合并，成立了新的八路军山东军区。到了解放战争时期，1947年1月随着山东野战军和华中野战军合并为华东野战军，山东军区也与华中军区合并为了华东军区。到了1949年2月，因为华东军区总部机关要渡江南下，山东军区才得以重建。
当时，在山东军区重建之后，担任军区司令员的是张云逸。张云逸是今海南文昌人，很早就参加了革命，先后经历过黄花岗起义、辛亥革命、护国战争和北伐战争。在红军长征时期，张云逸曾担任过红8军团参谋长、军委副参谋长兼作战局局长等职务。全面抗日战争爆发之后，张云逸又历任新四军参谋长、新四军江北指挥部指挥员、新四军副军长兼第2师师长等中职务。
在解放战争时期，张云逸组织领导了新四军北撤工作，后来一直在华东地区工作，曾担任过华东军区副司令员、山东军区司令员、华东军政大学校长，在指挥军区地方武装配合主力部队作战，以及动员人力物力支援前线战事等方面有很大成就，为华东解放战争的胜利作出了重要贡献。在1955年，张云逸被授予了大将军衔。
而在山东军区重建之后，担任军区副司令员的是许世友。许世友是今河南新县人，他曾在红四方面军参加了红军长征，曾担任过红四方面军第4军军长一职。全面抗日战争爆发之后，许世友最初担任过抗日军政大学校务部副部长、八路军第129师第386旅副旅长，后来被派到山东地区工作，历任山东纵队第3旅旅长、山东纵队参谋长，率领部队开辟创建了胶东根据地，并出任胶东军区司令员。
到了解放战争时期，许世友留在山东地区工作，又先后担任过华东野战军第9纵队司令员、华东野战军山东兵团司令员，参加了莱芜战役、孟良崮战役、胶东保卫战和济南战役等重要战役。1949年2月，山东军区重建之后，许世友被任命为军区副司令员，不久又接替张云逸担任军区司令员。在1955年，当时担任南京军区司令员的许世友，被授予了上将军衔。