叶樟根是浙江开化人，出生于1903年，父亲以给地主家当佃农为生，母亲操持家务，日子过得十分清苦。转眼间到了上学的年纪，因为家境贫穷，叶樟根读不起书，只能给地主家放牛。长大后开始四处打零工。23岁那年，叶樟根给一位陈姓地主当脚夫，挑着不少货物去广东，一路上吃苦受累，还经常被地主责骂。
到达韶关后，正好碰上国民革命军征兵，叶樟根应征入伍，被编入国民革命军第二军五师十三团机枪连。不久后叶樟根跟随部队北伐，因为在攻打牛头山时表现英勇，被连长任命为副班长。这个连长读过书，有一定的文化，认为叶樟根这个名字不好，就以天上的长庚星为名，给他改名为叶长庚。后来叶长庚又多次立功，到1929年的时候，已经是机枪排的排长了。
同年12月，叶长庚所在的部队被派到孤江边上和红军作战，接连打了几个败仗，不少人被红军俘虏。这些人回来后都在暗地里讲红军的好话，说红军是为穷苦百姓打天下的队伍，而且官兵平等，当官的也不打骂士兵，吃穿和普通战士一样。叶长庚本就是穷苦人家出身，当初参加国民革命军仅是为了有口饭吃，现在他觉得红军才是自己一直想要找的队伍。
叶长庚决心参加红军，并暗地里联系了一批志同道合的朋友，大家一听说要去参加红军，都很高兴。1929年12月下旬，叶长庚瞅准机会，带着排里22个士兵和两挺重机枪投奔了红5军。当时红军十分缺乏重武器，红5军军长彭德怀听说叶长庚带来了两挺重机枪，十分高兴，亲自接见了他，对他称赞有加，让他担任了机枪大队大队长。
之后叶长庚跟着部队南征北战，参加了许多重要的战役和战斗，还在第二次攻打长沙时担任了敢死队队长。因为作战勇敢，指挥有方，叶长庚进步很快，先后担任过红12师和红22师的师长，还代理过湘赣军区的参谋长。当时军区政委是甘泗淇，王震是军区下辖独立第一师政委。由此可见叶长庚当时的地位有多高。
长征开始后，叶长庚跟着部队爬雪山过草地，期间两次突发疟疾，最终靠着顽强的毅力走完了长征。到达陕北后，叶长庚因为在红军时期的旧伤复发，休养了一段时间。抗日战争全面爆发后，叶长庚出任晋察冀军区第4军分区副司令员兼参谋长。期间，他的儿子叶国庆出生，由于战斗紧张，只能寄养在赵家庄一位老乡家中。后来日军扫荡赵家庄，他不满3岁的儿子被敌人残忍杀害。
叶长庚将心中的怒火全都发泄在了日军身上，陈庄战役中，他在贺龙、关向应和聂荣臻的指挥下，配合兄弟部队一起，重创进犯我根据地的日军独立混成第8旅，毙伤俘敌1380余人。凭借在战场上的出色表现，叶长庚作为晋察冀军区的代表出席了中共第7次代表大会，这在当时是一个很高的荣誉。抗战胜利后，叶长庚又参加了解放战争，先是出任黑龙江军区司令员，1948年11月又调任50军第一副军长。
红军时期就是主力师师长，解放战争末期才升任副军长，也就是说这十几年间叶长庚仅仅升了半级。1955年大授衔的时候，面对叶长庚的情况，负责军衔评定工作的罗荣桓犯了难。叶长庚担任红5军机枪大队大队长的时候，开国中将甘渭汉在他手下当班长；叶长庚在湘赣军区担任代参谋长的时候，开国上将王震是军区下属独立第一师的政委。
以叶长庚红军时期的资历和他在革命战争中的贡献来看，授个中将并不为过。但他在解放战争末期才是副军长，按规定只能授少将。最后罗荣桓亲自找到叶长庚谈话，征求他对这次授衔的意见。叶长庚表态说，自己这个放牛娃从来没有想过有一天能当上将军，授少将就已经很知足了。最终他被授予少将军衔。1986年，叶长庚将军病逝，享年83岁。