在抗战时期，山东实行军政一元化领导，经过了一个艰难的过程。
首先，党中央以陈光为八路军115师代师长，但是，陈光没成功实现八路军115师与山东纵队等的统一领导。随后，又决定组建山东分局，派朱瑞和徐向前前往山东负责，以统一山东的党政军。
但是，效果不明显，没达到目的不说，还差点出现战略上的失误。
其中，1940年山东分局命令115师北上，就是一个例子。
1940年春起，日本加紧对蒋介石诱降，挑拨国共冲突，蒋介石于是策动第二次反共高潮，并于10月19日限令在长江南北坚持抗战的八路军和新四军在一个月内全部开赴黄河以北。
团结抗战的局势变得严峻了。
这种情况下，统一山东军政领导就更加迫切了。为了实行山东军事上的统一指挥，山东分局下令罗荣桓率八路军115师部和主力北上，向沂蒙区转移，与山东分局会合。
于是，罗荣桓和陈光率主力向山东分局驻地青驼寺转移而去。但是，罗荣桓却将教2旅留了下来，摆在鲁南，令他们继续坚持对敌斗争。
罗荣桓这么做，虽然留下的只是一个旅，却是一个十分高明的战略性做法。
为什么？
因为八路军115师主力随着师部北上后，教2旅在鲁南，虽然比起师主力在鲁南时，力量是削弱了，但是却继续控制了鲁南。
为什么要控制鲁南？
对此，罗荣桓在60年代回忆此事说：
“（1940年）我们进入郯(城)马(头)地区后，曾要求山东分局南下。分局迟迟不下，怕损失，要求115师北上，向分局和山东分局纵队靠拢。115师留下部队坚持鲁南斗争，师部向北移至临沂以北青驼寺附近。但因山区太困难，后来连吃饭问题都解决不了，师部就又南下滨海区找了个吃饭的地方。严格说来，北上是收缩退却。如果我们全部北上了，东北军将完全占领鲁南山区，我们被压缩到沂蒙山区，实际上那是为东北军让路。失掉了鲁南，将来南下就没有出口，对陇海路南和湖西地区的联系也都不利。我们坚持鲁南，开辟滨海地区，打开甲子山区，都是为了配合坚持和发展沂蒙山区。”
这一段话的意思是：北上是退却，115师若全部北上，东北军就控制了鲁南，这样的后果是：
一、八路军115师失去鲁南，以后就没有南下的出口。
二，115师北上沂蒙山，无法解决给养，吃饭都困难。
三、115师北上，不利于山东八路军与陇海路南和湖西地区的联系，即与苏北新四军的联络就会被割断。
正是由于罗荣桓在北上时留下了一个教2旅，控制了鲁南。随后，主力在沂蒙山受到日军“扫荡”，几乎无法生存，“山纵指挥机关连遭合击，大部分人员失散”。罗荣桓、陈光于是决定率部转移到鲁南以东的滨海地区，经过甲子山一战，115师又打开了山东抗战新的局面。
事实证明，罗荣桓是一个成熟、稳重、看问题看得准、方法得当又有战略眼光的党军政领导人，有能力领导山东全局。于是，党中央决定山东党政军的一元化领导，以罗荣桓为首。果然，一用罗荣桓，整个山东的一盘棋全部活了。在罗荣桓的领导之下，山东的各项工作蒸蒸日上，成为抗战中中共一块最有实力的敌后根据地。