踞在廣東的桂系軍閥排擠出廣東，葉劍英便隻身前往漳州，投奔孫中山組織的援閩粵軍。而蔣介石正是援閩粵軍的高階參謀。
1920年8 月，葉劍英參加了粵軍回粵驅逐桂軍陸榮廷。莫榮新之役，同年加入中國國民黨。1922年，粵軍總司令陳炯明炮轟總統府，大總統孫中山化裝前往長堤天宇碼頭，時任海軍陸戰隊營長的葉劍英親到碼頭迎接，護送孫中山登上軍艦。不久，蔣介石也趕來充任副官。在孫中山蒙難的50多天裡，兩人親密合作，忠實地護衛著孫中山的安全。
此後，葉劍英多次參加討逆之役，先後擔任第8 旅參謀長、第2 師參謀長等職，是蔣介石的直接下屬。1924年，葉劍英又在蔣介石任校長的黃埔軍校任教授部副主任。葉劍英的軍事才幹深得蔣介石的賞識。
1926年夏，葉劍英參加了北伐戰爭，先後擔任第1 軍總預備隊參謀長、新編第2 師師長和有“鐵軍”之稱的第4 軍參謀長。
正當大革命勝利發展的時候，蔣介石於1927年在上海發動“四一二”反革命政變。葉劍英在這歷史的轉折關頭，以堅定的革命信念，毅然拋開個人私情，與蔣介石徹底決裂，“通電全國反蔣”。
葉劍英自己也說：“有人講我是蔣介石的嫡系，蔣待我不錯。”他接著說：“有人問我反蔣圖個什麼？我說我反蔣不要什麼東西，只圖個革命，我們的槍要對準反革命，蔣介石當反革命，跑到我們槍口上來，是自己找打的。我們打蔣介石不是因為有什麼個人恩怨，而是因為他反革命。我們就是要討伐反對革命的人！”
1927年7 月，葉劍英加入了中國共產黨。此後，葉劍英作為人民軍隊的主要領導人之一，與蔣介石在土地革命戰爭中打了十年仗，抗日戰爭中一度合作共同抗日，接著又在全國解放戰爭中進行了三年的較量。今天，葉劍英作為中共華南地區黨政軍主要領導人，統率數十萬大軍，打回了故鄉，打回了當年與蔣介石“共同”革命的地方。
關於軍隊指揮問題，四野總部和林彪曾指示，由陳賡統一指揮第4 、15兩兵團的行動。自葉劍英到來後，陳賡認為葉劍英既是人民解放軍總部參謀長，又是華南分局第一書記，因此多次請他統一指揮。但葉劍英考慮到自己不僅要管軍隊，還要管地方的事情，難免分散精力，便仍堅持由陳賡統一指揮兩兵團及兩廣縱隊的作戰行動，並將這一意見上報中央和華中局，得到批准。
至於軍隊系統與華南分局的關係，兩兵團接受華南分局領導，凡屬帶方針性問題和全盤計劃，均提交分局討論決定，以取得黨政軍民的一致配合。
9 月7 日，葉劍英即在贛州主持召開作戰會議，參加會議的有方方、陳賡、郭天民、劉志堅。鄧華、賴傳珠、洪學智。肖向榮、曾生、雷經天等。會議分析了形勢，研究瞭解放廣東的作戰計劃：（一）解決廣東問題，我們依照軍委意圖，先行消滅北江。東江之敵，進佔曲江、惠陽，創造和平解決條件，爭取和平解決。同時，準備對付堅守廣州頑抗之敵。
（二）集結，因4 兵團與15兵團相隔過遠，為求得同時展開齊頭並進，突然實行鉗形合圍，必須先行集結。集結地區，15兵團南康、信豐地區，4 兵團除15軍先行集結南雄地區外，主力待15兵團透過，集結於仁化、汝城之線。兩廣縱隊集結於興國以南地區。以上於9 月底可集結完畢。
（三）作戰方案：1。如敵扼守曲江、英德之線頑抗時，四兵團除以一部由鐵道西迂迴敵之左側外，主力沿粵漢路及東西兩側並進。15兵團由三南（即全南、龍南。定南）插至英德或以北斷敵歸路，求得殲滅敵之四個軍。以兩廣縱隊經惠陽向南迂迴，並相機佔領惠州。視情況必要時，以一個軍加強之。華南分局主力則積極向潮汕方向佯攻，牽制與迷惑敵人。
2。如敵集中主力退守廣州、虎門時，我決以4 兵團沿粵漢路南下，進至廣州以北、以西，15兵團進至廣州以東，兩廣縱隊則插至廣州以南，截斷廣州、虎門間之聯絡，合力聚殲廣州之敵。華南分區域性隊仍監視與鉗制潮汕之敵。
3。由贛州經曲江、翁源、從化至廣州及由南康經龍南。和平、河源至廣州之兩條公路幹線，由4 、15兵團工兵部隊分工搶修，以利交通。
（四）建議葉飛兵團攻佔廈門後，指揮一部出汕頭、梅南作戰，最好同時動作，並向東佯動，以資配合。
8 日，毛澤東為中央軍委起草電報，對贛州會議及進軍華南作出重要指示——葉（劍英）方（方