。他協助劉伯承參謀長投入進軍川黔的計劃組織工作，部隊迫近烏江時，他親自勘察地形、選擇渡口，完成組織突破烏江任務。1935年1 月，他率工兵部隊架設江界河浮橋，保障一軍團主攻部隊和中央軍委直屬部隊渡過烏江，甩掉國民黨“追剿”縱隊，佔領遵義。遵義會議後，在毛澤東正確軍事路線指引下，紅軍擺脫了被動局面，走向勝利。後來，他回憶說：“什麼是大事？部隊過烏江時，毛主席指示去架橋，架橋便是大事。”他把這個在特定條件下的戰術任務，提到軍事家的戰略視角和政治的高度，抓住了軍事問題的本質。
長征到達陝北後，張雲逸協助周恩來、葉劍英主持後方工作。1936年4 月，紅一方面軍與陝北紅軍渡河東征後，張雲逸在兼任渡河司令員的工作中，為東征部隊回師陝北，提供了有力的保證。［霸氣 書庫 ·電子書下載樂園—wＷw。QiＳuu。cＯm］
他多次圓滿地完成統一戰線的重大使命。1933年冬他奉派為中華蘇維埃政府代表，與十九路軍發動福建事變後建立的福建人民革命政府代表談判，簽訂了《閩西邊界與交通條約》，後任中共中央駐十九路軍軍事聯絡員。1934年，福建事變失敗後撤回。1937年4 月，隨周恩來到西安，參與同國民黨談判的中共代表團工作。5 月以中共中央代表身份抵香港，開展華南抗日統一戰線工作。6 月，到桂林同李宗仁、白崇禧會談，又經李宗仁介紹與四川當局劉湘的代表會談，最後同他們達到協議，擬定了關於團結抗日的七條綱領草案，得到了毛澤東的肯定和讚揚。以後，又到廣州同餘漢謀談判，促成餘同意國共合作，全面抗戰，在廣州設立八路軍辦事處。
他在新四軍的組建中，起了重大的作用。1937年10月，中共中央與國民黨達成協議，將南方紅軍游擊隊改編為國民革命軍新編第四軍，他受命任參謀長兼三支隊司令員。建軍之初，他曾代表中共中央到澳門迎接葉挺出任軍長；先期到武漢、南昌參加組建軍部；到福建向紅軍游擊隊傳達黨中央關於南方游擊區域儲存革命戰略支點及部隊改編後堅持共產黨領導等指示；與國民黨福建當局陳儀談判，解決福建各地游擊隊改編北上集中等問題；並親率葉飛、胡榮等部到達皖南。他四處奔波，為新四軍組建成軍而卓著勳勞。
他為貫徹新四軍向東向北發展的方針開拓了江北抗日局面。1938年11月，他到江北貫徹黨中央關於新四軍向東向北發展的方針，後任江北指揮部指揮，統一指揮皖東、豫皖蘇部隊。先是推動四支隊東進，以八團為基礎成立五支隊，擴編江北遊擊縱隊，逐步形成了四支隊以淮南路東津浦路西、定遠藕塘為中心的路西遊擊區；五支隊以津浦路東來安半塔為中心的路東遊擊區和江北遊擊縱隊，堅持皖中游擊戰爭的戰略佈局。實現了北與八路軍，東與新四軍蘇北部隊打通聯絡的任務。
1939年11月，劉少奇同志經豫皖蘇遊擊支隊到達江北指揮部，統一中原黨政軍領導後，張雲逸組織部隊粉碎了日偽頑軍多次“掃蕩”和進攻。1940年3 月，挫敗了李品仙、韓德勤向我津浦路西、路東的進犯。先集中主力於津浦路西，攻克定遠城，取得反桂頑作戰的勝利，繼指揮四、五支隊和向路東增援的挺進縱隊，蘇皖支隊，開展以半塔為中心的反韓頑自衛戰，從而取得了皖東反頑自衛戰的全勝，這就是新四軍戰史上著名的“半塔保衛戰”。這是第一次華中反頑作戰的重大勝利，成為開創淮南抗日根據地關鍵的一戰。
張雲逸在領導皖東抗日鬥爭中，在政治上把蔣系、桂系區別開來，對桂系採取一打一拉、又打又拉的政策。他拒絕李品仙要我四、五支隊南調的無理要求，進行針鋒相對的鬥爭，受到毛澤東的讚揚，譽為統一戰線中堅持獨立自主原則的一個好例子。
他把淮南抗日根據地建成為鞏固的華中後方。皖南事變後，中共中央軍委命令重建新四軍軍部。張雲逸任副軍長兼二師師長，併兼淮南軍區司令員。從此，淮南抗日根據地進入了鞏固、發展的時期。在他的領導下，建立和完善了部隊的統一組織指揮，大膽放手擴軍；在創造主力兵團同時，抽調主力部隊骨幹，加強地方武裝；建立了淮南行署、路西專署各縣政權機構和群眾抗日團體。到1941年底，淮南津浦路東、路西地區面積發展到2241平方公里，人口近700 萬。地方的財經、稅收、生產建設都有很大發展，部隊供給得到了有力保證。他領導淮南軍民貫徹生產自給方針，打破了敵人的經濟封鎖，還在財政、糧食等方面，支援了兄弟根據地。後來華中局和新四軍軍部也都遷