在抗戰時期，山東實行軍政一進制化上司，經過了一個艱難的過程。
首先，黨中央以陳光為八路軍115師代師長，但是，陳光沒成功實作八路軍115師與山東縱隊等的統一上司。随後，又決定組建山東分局，派朱瑞和徐向前前往山東負責，以統一山東的黨政軍。
但是，效果不明顯，沒達到目的不說，還差點出現戰略上的失誤。
其中，1940年山東分局指令115師北上，就是一個例子。
1940年春起，日本加緊對蔣介石誘降，挑撥國共沖突，蔣介石于是策動第二次反共高潮，并于10月19日限令在長江南北堅持抗戰的八路軍和新四軍在一個月内全部開赴黃河以北。
團結抗戰的局勢變得嚴峻了。
這種情況下，統一山東軍政上司就更加迫切了。為了實行山東軍事上的統一指揮，山東分局下令羅榮桓率八路軍115師部和主力北上，向沂蒙區轉移，與山東分局會合。
于是，羅榮桓和陳光率主力向山東分局駐地青駝寺轉移而去。但是，羅榮桓卻将教2旅留了下來，擺在魯南，令他們繼續堅持對敵鬥争。
羅榮桓這麼做，雖然留下的隻是一個旅，卻是一個十分高明的戰略性做法。
為什麼？
因為八路軍115師主力随着師部北上後，教2旅在魯南，雖然比起師主力在魯南時，力量是削弱了，但是卻繼續控制了魯南。
為什麼要控制魯南？
對此，羅榮桓在60年代回憶此事說：
“（1940年）我們進入郯(城)馬(頭)地區後，曾要求山東分局南下。分局遲遲不下，怕損失，要求115師北上，向分局和山東分局縱隊靠攏。115師留下部隊堅持魯南鬥争，師部向北移至臨沂以北青駝寺附近。但因山區太困難，後來連吃飯問題都解決不了，師部就又南下濱海區找了個吃飯的地方。嚴格說來，北上是收縮退卻。如果我們全部北上了，東北軍将完全占領魯南山區，我們被壓縮到沂蒙山區，實際上那是為東北軍讓路。失掉了魯南，将來南下就沒有出口，對隴海路南和湖西地區的聯系也都不利。我們堅持魯南，開辟濱海地區，打開甲子山區，都是為了配合堅持和發展沂蒙山區。”
這一段話的意思是：北上是退卻，115師若全部北上，東北軍就控制了魯南，這樣的後果是：
一、八路軍115師失去魯南，以後就沒有南下的出口。
二，115師北上沂蒙山，無法解決給養，吃飯都困難。
三、115師北上，不利于山東八路軍與隴海路南和湖西地區的聯系，即與蘇北新四軍的聯絡就會被割斷。
正是由于羅榮桓在北上時留下了一個教2旅，控制了魯南。随後，主力在沂蒙山受到日軍“掃蕩”，幾乎無法生存，“山縱指揮機關連遭合擊，大部分人員失散”。羅榮桓、陳光于是決定率部轉移到魯南以東的濱海地區，經過甲子山一戰，115師又打開了山東抗戰新的局面。
事實證明，羅榮桓是一個成熟、穩重、看問題看得準、方法得當又有戰略眼光的黨軍政上司人，有能力上司山東全局。于是，黨中央決定山東黨政軍的一進制化上司，以羅榮桓為首。果然，一用羅榮桓，整個山東的一盤棋全部活了。在羅榮桓的上司之下，山東的各項工作蒸蒸日上，成為抗戰中中共一塊最有實力的敵後根據地。