1928年2月，第一次被逼下野的蔣介石重新複職，一度離心的何應欽被解除軍權，改任參謀長。始終對蔣忠心耿耿的陳誠再次得到重用，被任命為南京總司令部警衛司令。同年8月陳誠前往皖南，将麾下兩個警衛團與曹萬順17軍整編合并，組成11師。
擔任第
11師師長，大量使用黃埔學生
蔣的本意是要陳誠擔任11師師長，但何應欽以其資曆太淺為由堅決反對，最終陳誠僅擔任副師長。不過，在蔣介石的偏袒下，陳誠牢牢掌握着該師的财權和人事任免權，大批的黃埔畢業生被調入該師擔任中、下級軍官。
1929年夏，師長曹萬順被調走，陳誠正式擔任第11師師長，開始在部隊内部銳意改革，以“不貪财、不怕死”為口号對曹萬順的舊部大力編遣，使11師的官兵素質進一步提高，部隊作風也有了較大的改變。
兩次收編雜牌，擴軍為甲種師
1930年初蔣唐戰争後，表現突出的11師被安排到武漢整訓，實力得到了兩次較大的補充。一是武力解散曹萬順殘部第66團，軍官遣送，士兵補充到各團。二是收編湖北徐聲钰的獨立第13旅，改其番号為第11師獨立旅。第11師由2個旅擴編為3個旅9個團，列入甲種師行列。
1930年中原大戰，陳誠率領第11師占歸德、救曲阜、攻兖州、入濟南，屢建奇功，受到蔣介石嘉獎，被晉升第18軍軍長，仍兼任第11師師長。同年10月，陳誠部隊攻克平漢、隴海鐵路樞紐-鄭州。蔣介石親自手書大贊：“馬牧集開戰勝之端；曲阜挽垂危之局；鄭州結勝利之果。”
擔任
18軍軍長，吞并教導3師
陳誠擔任第18軍軍長後，僅轄第11師。經向蔣介石數度要求後，錢大鈞的教導第3師被編入第18軍。雖然該師與教導第1師、第2師合稱蔣介石的禦林軍。但由于錢大鈎一貫腐敗A錢，官僚氣十足，很少過問軍中事務，是以，部隊紀律廢弛，名聲很壞。加上有兩個團曾被紅軍殲滅，屬重新招募新兵組建的二茬貨，是以戰鬥力薄弱。
陳誠為了整肅這支隊伍，直接取消了教導師番号，改為第14師，并親任該師師長，同時調升11師31旅旅長周至柔為副師長，對該師嚴加整治，共編成40、41兩個旅，并加強了炮兵營等直屬部隊。
吞并地方軍和敗兵，實力急速膨脹
陳誠利用部隊駐紮武漢的機會接收了武漢要塞工兵營等地方部隊，将其改編為1個旅，由李延年為旅長。至此，陳誠的第18軍初具規模，下轄2個師及1個旅，合計18個步兵團，共約4.3萬人。
1931年7月至9月，第18軍由湖北開往江西撫州前線，參加對中央蘇區的第3次“圍剿”。在此期間，陳誠不斷吞并雜牌軍部隊，先後将韓德勤的第52師殘部、郭華宗的第43師和川軍張英的第59師等先後被收編，第18軍一度膨脹到8個師。
在用人、經濟和聽取意見三方面狠下功夫
為了確定對部隊的牢牢控制，陳誠對人事大權始終親自掌握。任11師師長時，所有尉官以上的人事調動，均親自決定任免；任18軍軍長時，校官以上，均親自傳見，當面交談。因為十一合為“土”，十八合而為“木”，而且第11師又剛好有一個土木工程兵營，是以陳誠的班底統稱“土木系”。
經濟方面，陳誠對于本部隊應得份額及經濟待遇，竭盡全力争取，并專門委任親信在南京設立18軍辦事處，專職向軍政部領取經費和裝備，確定該軍經費從不拖欠，及時如數發放。同時，陳誠對部隊中吃空額、A錢等現象嚴懲不貸，并鼓勵官兵大膽揭發，給予獎勵。
在聽取意見方面，第18軍全體官兵在人事、教育、管理、訓練、作戰等方面都可以提出意見建議。各級軍官在會議上都可以對部隊工作提出批評和建議；凡基層長官不予解決的問題，可向上一級長官寫信反映，陳誠自己帶頭拆閱和處理此類信件。有時，在戰鬥以後的“檢讨會”上，陳誠還親自主持會議，耐心聽取。