1929年9月初，红四军第五、六纵队与湘鄂赣边红军支队会合，重新组成第五军。彭德怀任军长，滕代远为政委，黄公略为副军长，邓萍为参谋长。当时红5军下辖5个纵队，总兵力数千人。按当时红军的规模来说，一个军有数千人的兵力已经不算少了，但红5军的枪支弹药却严重不足，重机枪就更少了，部队的战斗力因此受到了不小的影响。
为了增强部队的火力，彭德怀和滕代远等人想了许多办法，试图在战场上缴获敌人的重机枪。但打了好几仗，都只缴获了一些步枪，重机枪一挺也没有搞到。就在彭德怀为此发愁的时候，一个国军排长带着两挺重机枪投奔了红5军。彭德怀得知这个消息后十分高兴，亲自接见了这个排长，并以这两挺重机枪为基础组建了军部直属的机枪大队。
那么这个雪中送炭的国军排长是谁呢？他就是叶樟根。叶樟根是浙江开化人，父母以种田为生，家境十分贫困。为了谋生，叶樟根四处打零工，后来当了一名挑夫。1926年，23岁的叶樟根来到广东韶光，参加了国民革命军，在谭延闿的第二军第5师13团机枪连当了一名士兵。当时正值国共合作时期，不少共产党员在第五师担任党代表，叶樟根跟着部队北伐，期间接受了进步思想。
由于机枪打得好，叶樟根深得连长张志平的信任，被提升为副班长。张志平是高小毕业，有一定的文化，他对叶樟根说：“你这个名字不好，我给你改个名字吧，干脆取个谐音字，叫长庚。‘长庚’是天上的一颗星，太阳刚落山，它就在西边天上出现，又明又亮，叫做‘长庚星’，你就叫叶长庚吧！”之后叶樟根正式改名为叶长庚。
1928年年底，叶长庚所在的第13团移防到江西吉安。在这里，叶长庚结识了共产党员赵拓，并成了他的秘密联络员。在之后将近一年的时间中，叶长庚多次和赵拓在吉安后街上的一个小饭馆里秘密会面，传递出了不少有价值的情报。同时叶长庚还在连里秘密联系了一些志同道合的人，准备在合适的时机投奔红军。
1929年12月上旬，第13团被派到孤江边附近和红军作战。时任排长的叶长庚奉命带领两个班22个人担任前卫搜索任务，他乘机率部投奔了红5军。叶长庚带来了两挺重机枪和8支步枪，这对重武器十分缺乏的红军来说，无疑是十分珍贵的礼物，他也因此受到了军长彭德怀的亲自接见。之后叶长庚跟着红军南征北战，立下了不少战功，1932年6月他升任红12师师长。
之后叶长庚参加了多次反围剿作战和长征。抗日战争全面爆发后，他进入八路军晋察冀军区任职，担任第4军分区副司令员兼参谋长，率部多次和日伪军血战，受伤十余次，左手拇指因伤势严重留下了终身残疾。从加入红军开始，叶长庚一直在第一线战斗，多次负伤。由于战斗紧张，这些伤势没能彻底痊愈。解放战争期间，这些旧伤经常复发，叶长庚不得不离开前线治疗，这在一定程度上影响了他在战场上的表现和晋升。
直到1948年11月，叶长庚才升任50军第一副军长。要知道，早在1932年6月的时候，他就是红军主力师的师长了。也就是说，革命16年后，他才仅仅升了半级。叶长庚这种情况，在红军高级将领中是非常少见的。1955年大授衔的时候，面对这位革命16年仅升了半级的老红军，负责军衔评定工作的罗荣桓犯了难。最后他亲自找到叶长庚，征求他本人的意见。叶长庚当场表态，授什么军衔自己都能接受，最终他被授予少将军衔，并获得三枚一级勋
章。