有一個叫朱誕的左積弩將軍也在罷免之列，他十分怨恨司馬越，便投奔到劉淵那裡，稱司馬越和皇帝鬧矛盾，人心不齊，正是攻取西晉的好時機。劉淵早有一統天下之心，既然時機來了，豈能放過，當即命汝陰王劉景帶五萬精兵先攻黎陽。劉景和防衛黎陽的車騎將軍王堪打了一仗，佔了黎陽，劉景進城後縱兵搶劫殺人，又把黎陽三萬多名百姓全部扔到黃河裡淹死。劉淵聽說後大怒，我是要奪天下的，奪天下者先要得民心，你小子這不是讓人民恨我麼？遂下令道：“朕讓你去殺司馬氏，不是讓你殺百姓！”將劉景貶為平虜將軍，讓他帶兵返回。另派劉聰、王彌帶兵攻取洛陽。
劉聰、王彌帶兵來攻上黨。太守龐淳帶兵拒敵，連吃敗仗。司馬越急派淮南內史王曠、將軍施融和曹超五萬人北渡黃河增援。過了黃河之後，施融認為太行山險惡，對方又熟悉地形，建議王曠先不要過太行山，一方面偵察敵情，一方面等待對方出山，在平原迎擊敵人最為妥當。王曠罵其膽小，並且說對方都是騎兵，山地有利於己方的步兵，根本不必擔心山地作戰。哪知道王曠的軍隊來到太行山中一個平坦而空曠的山谷中時，遭到劉聰、王彌騎兵的四面掩殺，王曠拼命反擊，總算帶著萬餘人殺出重圍，逃了回去。龐淳見援軍敗逃，只好投降。
劉聰、王彌乘勝渡過黃河，先與鎮守黃河南岸的平北將軍曹武打了一仗，大勝；再和南陽王司馬模從長安派來的援兵淳于定打了一仗，又勝。曹武與淳于定吃了敗仗，先後逃到弘農郡。弘農太守垣延本來也準備出兵，曹武與淳于定告訴他說，劉聰和王彌太厲害了，你這點兵馬根本不夠他塞牙縫的，不如一齊逃吧。垣延很“重視”曹武和淳于定提供的軍事情報，於是說：“既然他們這麼厲害，那我就投降吧。”
曹武和淳于定嚇了一跳：“我們晉朝還有戰鬥力，等各處勤王的軍隊匯合後，定能勝他，你何必害怕成這個樣子？”
垣延嘿嘿一笑道：“我是詐降。”遂與二人定下計策，讓曹武和淳于定帶兵埋伏起來。
劉聰來到弘農郡宜陽城，垣延獻城投降。劉聰有點兒懷疑，不敢入城，在城外紮下營寨。垣延派人備上好肉好酒，運到軍營，大擺盛宴，還找了一些有文藝細胞的軍士為劉聰表演。劉聰的軍隊打了好多天仗，精神也比較緊張，這天晚上得到了很好的放鬆，又唱又跳，又是篝火晚會，又是兩軍大聯歡，鬧到深夜方才休息。
等漢軍都睡得像死豬一樣了，垣延帶著有文藝細胞的軍士便在大營中四處放火。曹武、淳于定早就埋伏在營外了，一見火起，立刻率兵攻進營來。漢軍們在聯歡會上消耗了不少體力，又喝了很多酒，又累又困又醉，兵卸甲馬卸鞍兵器放在床底下，冷不丁被這麼一衝，大多數人都無力還手，甚至沒鬧清是怎麼回事。曹武、淳于定和垣延在營中殺來殺去，漢軍死傷無數。劉聰也被圍在營中，衝不出去。
幸好王彌帶著一支小部隊在遠處安營，聽說大營被踹了，急忙帶千騎來救，總算把劉聰救出。兩個人在前頭跑，垣延等三將帶人在後邊追。劉聰、王彌一直渡了黃河才把晉軍甩開。劉聰收拾收拾敗兵，五萬人還剩兩萬多，恨得牙根癢癢，恨不得咬死垣延。
劉淵得知劉聰吃了敗仗，又派劉曜、劉景率三萬精騎增援劉聰。劉聰、王彌、劉曜、劉景四員大將帶著五萬鐵騎再渡黃河，又一次向弘農攻來。這回二話不說，直接開打吧。劉曜身先士卒，衝上城頭，攻取了城門，大兵一擁而入。垣延剛逃出南城門，被劉曜追上，一刀砍下人頭，獻給劉聰。宜陽一破，洛陽門戶大開。劉聰很快進抵洛陽，分兵四路，將洛陽團團圍住。
司馬越急問眾將怎麼辦？這時那位來洛陽出差的涼州督護北宮純還沒有走，他說道，這有什麼可擔心的？今天晚上我帶著我一千西涼騎兵，先把主帥劉聰的大營踹了再說。
當晚北宮純帶兵偷偷出城，攻入劉聰大營。雖然劉聰晚上也設了警戒哨，絆馬樁，無奈北宮純的西涼兵太猛了，在營裡殺來殺去，竟然無人能擋。等其他營寨的軍隊前來增援時，北宮純已經迅速退回城中。劉聰點查損失，死傷兩千兵士，手下大將呼延顥和呼延翼被北宮純劈死。劉聰恨極，猛攻洛陽。但洛陽畢竟是百年古都，城高牆厚，又有重兵把守，攻了半月，絲毫沒有進展。劉聰又分出部分兵馬留守，自己帶了另一部分兵馬離開軍營去嵩山拜山神，想讓山神助他攻城。司馬越聽說劉聰去嵩山了，立刻派兵襲擊留下來的漢軍。劉聰走到半路上得報說自己的大營又被踹了，這回是白天踹的，急忙回來。回來後司馬越又退回城中。劉聰再折了幾