冉閔忽然改變了戰略，必然得了高人指點！這是以退為進，要與我軍打持久之戰！”
“該如何應對？”曹操追問。
“雁門地處邊塞，天氣苦寒，土地貧瘠，況且居民已經被賊軍裹挾而去，目前只是一座空城，守之無益，不如放棄了吧！退守晉陽，堅固工事，穩紮穩打方為上策。”郭嘉略作思忖之後，獻出了自己的建議。
曹操有些猶豫：“浪費了許多兵力，卻只拿下了一座空城，難道就這樣放棄麼？”
就在這時，突然有曹仁的使者從許昌快馬而來，獻上緊急文書。
曹操面色凝重的接過來看了一遍，原來是曹仁的斥候探聽到了皇甫嵩、呂布正在虎牢關集結兵力，舉動可疑，請曹操早拿主意。
曹操看完之後最終嘆息一聲：“後方不穩，看來只能退兵回許昌了！傳我命令。三軍拔營向南退兵，這雁門……放火燒了吧！”
不多時，陰館城便火光沖天。數萬間民居在熊熊大火中被付之一炬，燒成了灰燼。不過才一天功夫，曾經喧囂熱鬧的城池便被燒成了一座黑乎乎、光禿禿的死城。
曹操大軍撤退到晉陽之時，曹德帶著隨從前來拜見，哭著把父親曹嵩被陶謙謀殺的事情訴說了一遍，最後哭求道：“兄長一定要為父報仇，殺掉陶謙這老匹夫啊！否則。父親大人在九泉之下如何瞑目？”
曹操得知了噩耗，方才領悟自己前天所做的惡夢真正含義。不由得嚎啕大哭，指天發誓：“操誓要血洗徐州，屠盡下邳，為父親大人報仇雪恨。否則有何顏面到九泉之下與父母相見？”
在眾將與幕僚的勸諫之下，曹操才止住了悲傷，下令全軍盡著縞素，為自己的父親曹嵩發喪。
此時正值七月初，天氣炎熱，曹德在前往許昌的路上發現曹嵩的屍體已經有了腐爛跡象，便把曹嵩在家鄉譙縣草草掩埋了，也算是落葉歸根。之後才北上晉陽，前來告知兄長噩耗。
曹操急於回家奔喪。與眾將商議一番之後，決定留下夏侯惇、王彥章、朱靈、路昭等四將率兵五萬鎮守晉陽，以荀攸為參軍。在太原郡境內修築工事，堅固堡壘，防備著冉閔的反撲。
而曹操自己則帶了曹德、曹洪、曹純、曹真、夏侯尚等本家親眷，在典韋、許褚的護送下，引領著五千鐵騎，晝夜向南。前往故鄉譙縣為父親曹嵩正式發喪下葬。
曹操前腳走後，七萬曹軍主力則在於禁、李典、朱靈、郭嘉、戲志才等人的率領下緩緩的向南撤退。準備由河內退過黃河，然後會合曹仁、程昱，據守險隘要塞，防備西漢軍入侵地盤。
夏侯惇一面在晉陽建造工事，一面派荀攸出榜招賢。不幾日便有太原陽曲人郝昭前來投軍，又從地方官吏中提攜了賈逵、王凌等幾名可用之才，分別委以重任，倒也把幷州打理的井井有條。
曹軍退卻之後，冉閔從太行山上捲土重來，重新下山佔據了雁門郡下轄的十四縣，並且以馬邑為治所，安置百姓，訓練士卒。期待著有朝一日，重新收復幷州失地。
賈詡向冉閔建議應當把收復幷州放在次要，首先應該與公孫瓚搞好關係，發兵攻打劉和、閻柔的後方。一來可以幫公孫瓚解北平之圍，二來可以趁機擴大本方領土，不再僅僅困頓於幷州境內，從而建造一股橫跨幽、並兩州的勢力。
冉閔從賈詡之言，留下賈詡防禦雁門，親自率兩萬人向北進入了幽州境內，一鼓作氣的攻破了異族幫助劉和鎮守的代郡，生擒了鮮卑頭目步度根。
步度根請降，冉閔不許。將其與五千鮮卑士卒全部梟首，懸掛於代縣城門，天下為之震驚，異族更是膽戰心驚，對冉閔又恨又怕。
經此一戰，冉閔聲勢重新恢復。青州黃巾頭目管亥連戰連敗，先敗於袁紹，又敗於秦瓊，聞聽冉閔死灰復燃，遂率領本部一萬餘人，趁著袁紹與劉辯對峙之際，偷偷穿過了冀州境內，直抵代郡歸順冉閔。
看到管亥武藝過人，況且與自己一樣都是黃巾出身，冉閔大喜過望，遂加以重用。管亥感激冉閔之恩，又寫書招裴元紹、劉闢、龔都等其他在中原境內混不下去的小股黃巾前來入夥，一時之間，冉閔的勢力又恢復了十之七八。
得了中原數股黃巾前來投奔，冉閔又向北進軍，接連大敗鮮卑頭目軻比能、烏桓頭目蹋頓，完全佔據了幽州最北面的上谷郡，重新把手中的地盤變成了三郡。
就在冉閔攻掠幽州的時候，賈詡修書一封招故張繡與胡車兒前來共謀大事。而此時，張濟因為愛妾鄒氏被楊素強行賞賜給了呂布，心懷怨憤，常常口出怨言。