葉樟根是浙江開化人，出生于1903年，父親以給地主家當佃農為生，母親操持家務，日子過得十厘清苦。轉眼間到了上學的年紀，因為家境貧窮，葉樟根讀不起書，隻能給地主家放牛。長大後開始四處打零工。23歲那年，葉樟根給一位陳姓地主當腳夫，挑着不少貨物去廣東，一路上吃苦受累，還經常被地主責罵。
到達韶關後，正好碰上國民革命軍征兵，葉樟根應征入伍，被編入國民革命軍第二軍五師十三團機槍連。不久後葉樟根跟随部隊北伐，因為在攻打牛頭山時表現英勇，被連長任命為副班長。這個連長讀過書，有一定的文化，認為葉樟根這個名字不好，就以天上的長庚星為名，給他改名為葉長庚。後來葉長庚又多次立功，到1929年的時候，已經是機槍排的排長了。
同年12月，葉長庚所在的部隊被派到孤江邊上和紅軍作戰，接連打了幾個敗仗，不少人被紅軍俘虜。這些人回來後都在暗地裡講紅軍的好話，說紅軍是為窮苦百姓打天下的隊伍，而且官兵平等，當官的也不打罵士兵，吃穿和普通戰士一樣。葉長庚本就是窮苦人家出身，當初參加國民革命軍僅是為了有口飯吃，現在他覺得紅軍才是自己一直想要找的隊伍。
葉長庚決心參加紅軍，并暗地裡聯系了一批志同道合的朋友，大家一聽說要去參加紅軍，都很高興。1929年12月下旬，葉長庚瞅準機會，帶着排裡22個士兵和兩挺重機槍投奔了紅5軍。當時紅軍十分缺乏重武器，紅5軍軍長彭德懷聽說葉長庚帶來了兩挺重機槍，十分高興，親自接見了他，對他稱贊有加，讓他擔任了機槍大隊大隊長。
之後葉長庚跟着部隊南征北戰，參加了許多重要的戰役和戰鬥，還在第二次攻打長沙時擔任了敢死隊隊長。因為作戰勇敢，指揮有方，葉長庚進步很快，先後擔任過紅12師和紅22師的師長，還代理過湘贛軍區的參謀長。當時軍區政委是甘泗淇，王震是軍區下轄獨立第一師政委。由此可見葉長庚當時的地位有多高。
長征開始後，葉長庚跟着部隊爬雪山過草地，期間兩次突發瘧疾，最終靠着頑強的毅力走完了長征。到達陝北後，葉長庚因為在紅軍時期的舊傷複發，休養了一段時間。抗日戰争全面爆發後，葉長庚出任晉察冀軍區第4軍分區副司令員兼參謀長。期間，他的兒子葉國慶出生，由于戰鬥緊張，隻能寄養在趙家莊一位老鄉家中。後來日軍掃蕩趙家莊，他不滿3歲的兒子被敵人殘忍殺害。
葉長庚将心中的怒火全都發洩在了日軍身上，陳莊戰役中，他在賀龍、關向應和聶榮臻的指揮下，配合兄弟部隊一起，重創進犯我根據地的日軍獨立混成第8旅，斃傷俘敵1380餘人。憑借在戰場上的出色表現，葉長庚作為晉察冀軍區的代表出席了中共第7次代表大會，這在當時是一個很高的榮譽。抗戰勝利後，葉長庚又參加了解放戰争，先是出任黑龍江軍區司令員，1948年11月又調任50軍第一副軍長。
紅軍時期就是主力師師長，解放戰争末期才升任副軍長，也就是說這十幾年間葉長庚僅僅升了半級。1955年大授銜的時候，面對葉長庚的情況，負責軍銜評定工作的羅榮桓犯了難。葉長庚擔任紅5軍機槍大隊大隊長的時候，開國中将甘渭漢在他手下當班長；葉長庚在湘贛軍區擔任代參謀長的時候，開國上将王震是軍區下屬獨立第一師的政委。
以葉長庚紅軍時期的資曆和他在革命戰争中的貢獻來看，授個中将并不為過。但他在解放戰争末期才是副軍長，按規定隻能授少将。最後羅榮桓親自找到葉長庚談話，征求他對這次授銜的意見。葉長庚表态說，自己這個放牛娃從來沒有想過有一天能當上将軍，授少将就已經很知足了。最終他被授予少将軍銜。1986年，葉長庚将軍病逝，享年83歲。