葉挺來到莫斯科，認真地向黨中央和共產國際寫了關于廣州起義的報告，申訴了自己的觀點，卻石沉大海無消息。他找到共產國際東方部，巧遇中央委員項英同志，卻遭到王明冷遇。王明還說了許多傷害同志的尖刻話，葉挺無法容忍，震怒之下離開了莫斯科，脫離了黨的關系，到歐洲等地流亡。

葉挺只身流亡到德國首都柏林，經濟日趨窘迫，開始隱姓埋名做工糊口。他包過留學生伙食，賣過水果和豆腐，開過飯館，甚至揀過剩菜葉，飽嘗了生活的辛酸，也更堅定了革命意志。他研究德國的政治、軍事、經濟、文化，秘密進行了多項軍事化學實驗，并取得了實質性的進展。他時刻關注國內革命斗爭的動向，通過與周恩來、宋慶齡、廖承志、鄧演達等人的來往，革命熱情日益高漲，恨不能立刻回國去參加革命斗爭，投身到武裝革命的洪流中去。

1931年“九一八事變”爆發后，葉挺再也不能平靜了，通過各種途徑關注國內局勢，為祖國前途和命運深深擔憂。1932年秋，葉挺舉家返回澳門。國民黨方面陳濟棠、陳誠、余漢謀等多次對他拉攏利誘，葉挺心胸坦蕩，予以堅決回絕。葉挺意外地見到了中共中央軍委派駐十九路軍的軍事代表張云逸，使他看到了光明和希望。