国民革命军第四军起源于邓铿的“粤军模范营”，但组建成军是在李济深手上。
李济深（1885-1959），广西苍梧人，早年在粤军模范营当见习官，与连长邓铿相识。后在陆军大学任教五年，奉系郭松龄、桂系黄旭初都曾是他的学生。1921年，时任粤军参谋长兼第壹师师长的邓铿邀请李济深到第壹师担任副官长，不久升任师参谋长。
第壹师是在第壹次护国战争时，由广东省长朱庆澜的亲兵营改编的，长期隶属于陈炯明的第壹军。刚开始时，第壹师军纪很差，贩卖鸦片，开设赌场，搜刮百姓。后来，在邓铿、李济深的大力整顿下，军纪完全改观，成为粤军中的精锐之师。得到孙中山、陈炯明的共同倚重，以至于军中既有拥孙派，也有拥陈派。
李济深
孙、陈决裂时，师长邓铿被人刺杀，舆论普遍认为是陈炯明指使的。许崇智的亲信梁鸿楷接任了第壹师师长，李济深继续担任参谋长。该师编制如下：
| 粤军第壹军第壹师 师 长：梁鸿楷 参谋长：李济深 | 编制 | 政治倾向 |
| 第壹团团长：谢毅 | 不持立场 | |
| 第贰团团长：徐汉臣 | 拥陈派 | |
| 第三团团长：陈修爵 | 拥陈派 | |
| 第四团团长：陈铭枢 | 拥孙派 | |
| 工兵营营长：邓演达 | 拥孙派 |
后来，护国军失败退回广州，李济深曾当面质问陈炯明：“为何要害邓仕元？”
陈炯明连说：“不关我事，不关我事。”
问他是谁指使的，陈推说尚在调查。李便向陈提出辞去师参谋长职务。陈未置可否。
这时，陈的嫡系叶举炮轰了孙中山的大元帅府，孙被迫逃到军舰上避难。孙通过陈可钰转告李，叫他千万不要离开第壹师，只要留下来，就尚有可为。李只好忍辱继续担任师参谋长。
1922年12月，孙中山在上海联络粤军许崇智、李福林、滇军杨希闵、桂军刘震寰、沈鸿英等组成联军进攻盘踞广州的陈炯明。第壹师于阵前起义，反攻陈炯明。陈大败，退往惠州固守。1923年2月，孙回到广州，任命许崇智为建国粤军总司令，梁鸿楷为第壹军军长，李济深为第壹师师长。
陈济棠
1923年7月孙中山命李济深兼任西江善后督办，率第壹师进驻肇庆，协助新桂系李宗仁、黄绍竑、白崇禧统一广西。李济深在肇庆办了一个讲武堂，训练军队。
后来，第壹师参与了镇压广州商团叛乱、平定杨刘叛乱、两次东征陈炯明、南征邓本殷等战争，几乎是攻无不克，战无不胜，成为粤军中的“王pai师”。
在1925年8月“廖仲恺被刺案”发生后，梁鸿楷涉嫌幕后策划，被蒋介石扣押。李济深趁机收编了梁的第壹军，与蒋介石、李福林瓜分了许崇智的部队。8月24日，第壹师改编为“国民革命军第四军”，下辖4个师又1个独立团，共计约2.2万人。
| 第四军 | 军长： 李济深 | 10师，师长：陈铭枢 | 约2.2万人 |
| 11师，师长：陈济棠 | |||
| 12师，师长：张发奎 | |||
| 13师，师长：徐景唐 | |||
| 独立团，团长：叶挺 |
李济深是广西人，而第四军从高级将领到普遍士兵，几乎清一色的是广东人。中高级将领如张发奎、陈铭枢、陈济棠、叶挺、邓演达、薛岳、蔡廷锴、蒋光鼐后来都是叱咤风云的人物。但李济深与他们同属广府人，平时用粤语交流，没有省际分别，故能融洽一体。
独立团团长：叶挺
在广州的六个军中，第四军是本地军队，不像各路客军那样搜刮广州百姓。各路客军对民众的盘剥欺压，使第四军的官兵非常不满。作为广东的子弟兵，他们和广东民众一样，都希望这些客军早日北伐离粤，以减轻对粤民的搜刮。如果长期拖延下去，主客双方必有火拼的一天。当然，能让他们和平地离开是最好的，而想要这些客军和平离开，那就只有北伐。
当然，各路客军也不想长期呆在广州，官兵的思乡之情日久弥深，他们也想早日北伐，夺取一块属于自己的地盘。
自从两广得以稳固后，北伐这艘大船就要启动了。