1897年4月，葉劍英元帥誕生于廣東省梅縣雁洋堡下虎形村的一個小商人家庭。父親考中過武秀才，母親沒有讀過書，但是聰明賢惠。
葉劍英7歲讀私塾，他讀書很用功。11歲時到距離雁洋十多裡的三堡學堂讀書，三堡學堂是一所公立高等國小。1912年1月葉劍英以最優等的成績從三堡學堂畢業，考入梅縣務本中學。1916年葉劍英到橫山新群國小教書，深受學生喜愛。
1916年冬，葉劍英乘船到香港，然後乘船到馬來亞怡堡，他的四個伯父都在馬來亞謀生。葉劍英在馬來亞沒有找到合适的工作，于是去一個國小當了國文教師。
雲南都督唐繼堯為了利用南洋華僑的财力和人力擴充自己的實力，派特使陳覺民到馬來亞怡堡宣慰華僑，招募學兵，葉劍英通過考試被雲南講武堂正式錄取。1917年夏天，葉劍英回國在雲南講武學校讀書。他曾經與一個日本教官比武，擊敗了日本教官，這位教官把自己随身佩戴的戰刀送給了葉劍英，這把戰刀葉劍英一直儲存在身邊，舍不得丢掉。
1919年12月葉劍英以最優秀的成績從雲南講武學校畢業。随後到福建漳州粵軍駐地，在部隊擔任見習教官，訓練士兵操炮。
1920年春天葉劍英加入中國國民黨。1921年5月孫中山宣誓就任中華民國非常大總統，組成中華民國政府。1921年10月葉劍英以大總統随員身份，跟随孫中山出巡廣西。在廣西桂林擔任軍官教導團教官，1921年冬調任江防艦隊護航第二營營長。1922年4月保護孫中山到達梧州，任海軍陸戰隊營長。
1927年7月葉劍英加入中國共産黨。葉劍英親自起草并領銜簽發了反對蔣介石的通電。他後來回憶說：甯漢分家以後，蔣介石說漢口反革命，武漢說蔣介石反革命，兩下吵。我想到自己年輕時立志為國為民做點事，參加革命後當了師長。那時師長每月差不多都有二三萬元收入，二三萬元不少了，十個月就是二三十萬，公公道道，做二三年師長就是個百萬富翁。如果隻是為了個人，跟蔣介石走，至少可以做大官。但是蔣介石在上海屠殺勞工，變成了十足的反革命，我決定通電全國反蔣。7月南京國民黨中央監察委員會決定将葉劍英“永遠開除”出黨。
葉劍英在紅軍長征途中将張國焘企圖危害和分裂黨中央、紅軍的密電送給毛澤東主席一事，是葉劍英一生為黨為人民立下的一大功績。對于這件事，中央和紅軍的上司人在當時和後來曾經多次談及。1935年9月毛主席在哈達鋪，向陝甘支隊幹部說，一、四方面軍分家時，劍英給我送了電報，立了一大功。毛主席在其他時間和場合多次談到這件事，并稱贊葉劍英：諸葛一生唯謹慎，呂端大事不糊塗。
1967年夏天毛主席視察大江南北，曾經與楊成武将軍談及此事，毛主席摸着自己的腦袋，風趣地說：“葉劍英在關鍵時刻是立了大功的。如果沒有他，就沒有這個了。他救了黨，救了紅軍，救了我們這些人。”1971年8月毛主席在長沙同進階幹部談話時再次談到：“張國焘搞分裂，發了電報給陳昌浩、徐向前，裡面說，要堅決南下，，否則就要徹底解決。當時葉劍英同志當參謀長，他把這個電報先給了我，沒有給陳昌浩、徐向前，我們才走了的，不然，我們就當俘虜啦。葉劍英在這個關鍵時刻是有功勞的。”