時年齡已經很大，薪俸相當高，我是為了解放勞動人民才來入黨的。”從那以後，他由激進的資產階級民主革命者轉變成了自覺的共產主義者，抱著堅定的理想、信念，堅持革命鬥爭，始終不渝，奮鬥終生。
他在白色恐怖下，堅持開展黨的秘密工作，在隱蔽鬥爭和武裝鬥爭的戰場上，冒險犯難，百折不撓。
1927年冬，他準備配合地方黨發動瓊崖武裝暴動時，在海口遇險，逃脫虎口到上海找到黨中央。1928年8 月，中央軍事部長楊殷向他轉達中央決定，派他赴廣西進行兵運工作，面對全國處於革命低潮，敵人對革命者進行殘酷鎮壓、屠殺的形勢，和未來千鈞重擔的任務，他無畏地、毫不猶豫地表示：“完全服從組織的決定。”
張雲逸在廣西進行兵運工作不久，在鄧小平領導下舉行了百色起義，以後率紅七軍轉戰千里，終於到達中央蘇區與中央紅軍會合，表現出張雲逸英勇無畏的革命精神和軍事才能。
1940年，張雲逸的妻子韓碧同志攜幼子遠之，從新四軍軍部赴江北指揮部途中，在安徽無為縣襄安鎮被國民黨部隊扣押，企圖以人質向我施加壓力。正在前方指揮皖東反頑自衛戰的張雲逸聞訊後，處變不驚，不為所動，一面向蔣介石、李宗仁提出抗議，一面繼續指揮作戰，狠狠打擊敵人，表現了共產黨人無私無畏的高風亮節，終於迫使國民黨將韓碧母子釋放。
二他參加了在中國共產黨領導下的中國革命戰爭的全過程。在長期革命戰爭的實踐中，在建立革命統一戰線，加強黨的建設中，造就成為有深厚馬列主義毛澤東思想理論基礎和無產階級戰略策略修養的優秀的革命領導人。他有組織和領導群眾進行革命鬥爭，開創革命局面，領導建軍、治軍和指揮作戰的精湛藝術才能，豐富的革命鬥爭經驗。
他為我黨建軍作出了重大的貢獻。大革命中，他在國民革命軍第四軍二十五師任參謀長。為使我黨掌握武裝，1927年向第二方面軍總指揮張發奎力薦共產黨員盧德銘任武漢國民政府警衛團長，後來盧率部參加秋收起義。在張雲逸的秘密支援和掩護下，二十五師大部分人員由李碩勳、周士第率領參加八一南昌起義。
他是百色起義和紅七軍的重要組織者之一。在第一次蔣桂戰爭中俞作柏、李明瑞從桂系中分化出來，控制了廣西局勢。張雲逸7 月到南寧工作，9 月開始在鄧小平領導下爭取俞、李和準備武裝起義。經過黨組織的活動，張雲逸出任南寧軍官教導總隊副隊長，廣西警備第四大隊長，調離了在這兩支部隊中的反動分子，建立了秘密黨支部，掌握了各級領導權。以後利用俞、李出師反蔣失敗的機會，獲得兼任南寧警備司令接管省軍械庫的大權。10月22日，同鄧小平率隊到達百色。後同中共右江特委和農民土地革命武裝相結合，消滅了反動的廣西警備第三大隊。根據中共中央指示，於12月11日宣佈百色起義，成立中國工農紅軍第七軍，任軍長、前委常委。同時成立右江工農民主政府，建立了包括十多個縣的右江革命根據地。後來，李明瑞在鄧小平、張雲逸幫助下加入中國共產黨，任紅七軍、紅八軍總指揮，成為優秀的共產主義戰士，著名的紅軍指揮員。
百色起義後，張雲逸、李明瑞率部給予向左右江革命根據地反撲的桂系軍閥重創後，留部分部隊堅持鬥爭，主力轉移至黔桂邊境開展游擊戰爭。4 月下旬攻克榕江，全殲守敵。爾後回師右江，重佔百色。繼又解放恩隆、奉議、思林、果德、向都、恩陽等縣，以土地革命為中心進行根據地建設，擴大紅軍。11月，紅八軍從龍州撤出的部隊和紅七軍合編為紅七軍。爾後，韋拔群率少數人員回東蘭堅持鬥爭。1931年1 月，紅七軍轉移至湘粵桂邊界，縮編為五十五、五十八兩個團，向湘粵贛發展。7 月間東渡贛江，在於都橋頭圩與中央紅軍勝利會師。不久張雲逸在瑞金壬田寨受到毛澤東和朱德的親切接見，當選為中華蘇維埃中央政府執行委員，紅七軍得到了中華蘇維埃授予“轉戰千里”錦旗的獎譽。
百色起義在我國南疆建立了工農武裝割據的重要革命根據地，擴大了紅軍，進行了土地革命，為中國革命和武裝鬥爭的歷史，譜寫了光輝的篇章。
他在長征中出色地完成了進軍川黔、突破烏江等計劃組織工作。1931年底，張雲逸調任中央軍委作戰局長。此後，又擔任副參謀長兼作戰局長。1934年底，長征中紅軍向貴州進發，他率偵察隊先行，保障主力佔領黎平。中共中央政治局在黎平接受毛澤東的主張，放棄原定北上湘西與二、六軍團會合的計劃，決定西渡烏江北上