與後趙交好，和東晉斷絕了關係。而段匹一直是傾向於向東晉稱臣的，所以邵續當即答應，親率大隊人馬和段匹來攻薊城，段末出城應戰，大敗後守城不出，並向石勒求救。石勒便要去調正在鄴城的石虎出援。
張賓說：“現在祖逖佔據著河南和安徽，勢力很強大。我們北去，恐怕要被祖逖抄了後路。”
石勒便向張賓問計，張賓主張和祖逖交好，互通使節並開放貿易。石勒遂派人去幽州祖逖的老家，為祖逖整修了祖墳，特別是祖逖父親的墳墓也好好地大修一番，並派人為祖逖的祖墳守墓，每年祭日都要按時祭祀。祖逖還有個部將叫做童建，因為私仇殺了新蔡內史周密，投到石勒這邊來，石勒將其斬首，把首級送給祖逖，表達了和祖逖和平共處的意思。
祖逖一方面表示感謝，也開放邊境，允許互市，並宣佈不接納後趙叛逃過來的人；但另一方面還是加緊備戰，準備渡過黃河，北取晉冀之地。
石勒安定了南境，遂放心北進，以石虎為帥，孔萇為副，率兵二萬去攻打山東的樂陵。邵續的兒子正守在那裡，急忙請邵續回兵來救。
邵續只好退兵，讓段匹、段文鴦斷後，半路上碰到了石虎的兵馬，兩軍對陣，邵續兵敗被俘。邵續被押到襄國，石勒以禮待之，將其招降。
段匹和段文鴦的後軍卻殺過石虎的封鎖線回到山東，與邵緝合兵一處守城。石虎圍攻數月後，段文鴦帶兵出戰，戰敗被俘。邵緝見孤城無援，父親也已經降了，遂率眾出降。段匹不願意投降，但這裡還是邵緝說了算，只好先投降。後來段匹用一年的時間說服邵續召集舊部密謀起事，不幸敗露，邵續、段匹和段文鴦三人皆被石勒所殺。魯西一處，也被石勒平定。
劉曜的前趙這一段時間也在打仗。公元320年，前趙的將軍解虎和校尉尹車聯合氐族酋長句徐、庫彭準備發動政變，事敗後尹車和解虎立刻被處決。句徐、庫彭等五十多名部屬則被關起來準備過幾天一齊處死。光祿大夫遊子遠勸劉曜說：“只要誅殺元兇就可以了，皇上不宜殺人太多。”劉曜很不高興，便把遊子遠關起來，仍然把句徐、庫彭等人都殺了，暴屍十日，最後把屍體都丟到水裡。
由於所殺人中大部分都是巴族的首領，於是巴族人起來造反。巴酋句渠知、虛除權渠率兵起義，自號“大秦”國，改元為“平趙”，就是平滅趙國的意思。一時間，氐、羌、巴、羯各族響應者達三十餘萬之眾，關中登時大亂，城門盡閉。
遊子遠聽說關中大亂，又從獄中寫下諫書請人交給劉曜，劉曜看都不看，撕掉遊子遠寫的東西，罵道：“這個大荔的奴僕，自己的命都保不住，還敢來勸我，是不是活得不耐煩了。”於是就要下令殺掉他。
中山王劉雅、郭汜、朱紀、呼延晏等人都為遊子遠求情，說遊子遠雖然被關在獄中，卻不顧自己的性命向您諍諫，這是大忠臣啊。皇上您就算是不想用他的計策，也不應當殺他。如果遊子遠這樣的忠臣您都容不下，我們都不活了，願意和他一塊兒去死。您看以後誰還願意跟著您混！
劉曜聽了也覺得自己做得很有些過分，於是把遊子遠放了出來。遊子遠一出來就又找到劉曜說：“平叛的事您要是交給我，我一個月就能搞定。”劉曜不相信：“你沒病吧，對方三十多萬人，你一個月就能搞定？你給我說說看你怎麼搞定。”
遊子遠道：“這些人都沒有大志向，也並不想升官發財，圖霸中原。之所以起來造反，是害怕您啊。您的刑罰太嚴厲，又殺了不少他們的頭領，他們擔心也被您殺害，所以才起來造反。您只要大赦天下，並且把前陣子那些叛臣的已經賣為奴隸的家小全部放出來，給他們一條生路。大部分人肯定會散去回鄉種田。畢竟誰都想安居樂業，打仗並不是他們的本業。當然其中有為首的頑兇，不會輕易投降。不過剩下這些人就好對付了，我只需五千兵丁，就可為皇上取回他們的首級來。”
遊子遠這番話說得劉曜是心服口服。劉曜立刻下詔大赦天下，並以遊子遠為車騎大將軍，都督雍秦征討所有軍事。詔書一下，反叛者紛紛或散或降，只有句渠知和虛除權渠還據守不降。遊子遠先帶兵在陰密（今甘肅靈臺西五十里）殲滅了句渠知全部，句渠知本人不知所終。又引兵到陝甘界山以西的隴右地區與虛除權渠決戰。
虛除權渠與遊子遠五戰皆敗，本來準備投降，他的兒子伊餘不同意。伊餘率五萬敢死隊去和遊子遠拼命。遊子遠一見對方士氣正盛，便退守據險不戰。直到十多天後的一個早上，突然颳起了沙塵暴，遊子遠趁著惡劣天氣率兵突襲。這時伊餘軍