進至涇水之北，渭北諸城皆潰。八月，劉曜進逼長安。九月，鎮西將軍焦嵩等引兵救長安，散騎常侍華輯監京兆、馮翊、弘農、上洛四郡兵東屯霸上（今西安東），均畏漢兵之強不敢進。司馬保遣鎮軍將軍胡崧率兵入援，擊破劉曜軍於靈臺（今西安西北）。胡崧恐國威復振，麴、索勢盛，乃率城西諸郡兵駐渭北不進，又退屯槐裡（今興平東南）。劉曜攻陷長安外城，麴允、索綝退保長安小城。晉軍內外隔絕，城中食盡無援，死者大半，士卒逃亡，無法制止。十一月，愍帝出降，西晉亡。
此戰，劉曜先攻佔渭北諸城，擊潰晉軍主力，孤立長安，然後圍而攻之，使其糧盡援絕，從而獲勝。
鎮守長安
劉曜時為相國、都督中外諸軍事，鎮守長安。聞靳準叛亂，親自率領軍隊由長安出發赴平陽，行至赤壁（今山西河津市西北的赤石川），遇到了從平陽出逃的太保呼延晏與太傅朱紀。他們勸劉曜稱尊號，劉曜遂即帝位，改元光初，這年是公元318年。當時石勒駐守河北，劉曜封石勒為大將軍，同石勒成犄角之勢，進攻平陽。
不久，靳準為部下靳明所殺，其眾共推靳明為主，靳明送傳國璽於劉曜，準備投降劉曜。石勒大怒，派主力急攻平陽，靳明向劉曜求救，劉曜派將迎回靳明。平陽士女15000人隨靳明歸於劉曜，劉曜斬靳明及靳氏男女。不久，平陽遂被石勒攻佔。這時，劉曜同石勒已成劍拔舒張之勢，但因劉曜在關隴立腳不穩，有後顧之憂，所以不敢同石勒馬上翻臉，授石勒為太宰、領大將軍、加殊禮，以河內24郡封石勒為趙王。如曹*輔漢故事，想以此先穩住石勒，以便騰出手來對付關、隴地區的敵對勢力。
關中大亂
當時，關中、隴右一帶有很多氐、羌等少數族人未予歸化，常同西晉殘餘聯合進攻劉曜，給劉曜*造成嚴重威脅。大興三年（320年），劉曜部下長水校尉尹車，連結巴氐酋長徐庫彭反叛，劉曜先殺尹車，又囚徐庫彭等5000人，準備全部殺死。光祿大夫遊子遠叩頭固諫請求放免，劉曜不聽，硬是將其全部斬首。這一舉動，引起了巴、氐人民的強烈義憤，奮起反抗，共推巴、氐歸善王句渠知為領袖，舉行起義。一時，羌、氐、巴、羯三萬餘人，盡皆響應，關中大亂，局勢非常緊張。劉曜只得採用遊子遠的安撫政策，以遊子遠為車騎大將軍，都督雍秦征討諸軍事，最後基本上平定了這次叛亂，徙巴、氐等20餘萬於長安。接著劉曜又親征巴、氐楊難敵，遷楊難敵部將楊韜等萬餘戶於長安，隨後又平定了奉州陳安的反叛。
接著，劉曜開始大舉用兵涼州張氏*，張氏*的奠基者是安定烏氏（今甘肅平涼西北）人張軌，張軌是西漢常山王第十七代孫，世以儒學著稱。西晉永寧年間，任涼州刺史、護羌校尉。洛陽陷落後，晉愍帝都長安封張軌為涼州牧；張軌死後，由張（宀是）、張茂繼立。劉曜出兵涼州時，張茂正為涼州刺史。劉曜大軍長驅*西河，戎卒二十萬五千，臨河到營，百餘里中，鐘鼓之聲，沸河動地，“自古軍旅之盛，未有斯比。”涼州為之震怖，張茂遂以牛羊、金銀、女妓、珍寶、珠玉及涼州特產貢獻劉曜向其稱藩，劉曜署張茂為西域大都護、涼王等職，旋即班師。
劉曜在短時期內征服了關、隴，但正如荀子所說：兼併易而堅凝難。在劉曜統治關隴期間，雖然也起用了一些有學識的漢人作官，也在長安開辦學校，造經學之士以教之，但他始終沒有一套成型的治國安民的政治措施。劉曜初入關中時對部下的規諫還聽得進去，如他命起陵宵臺，在霸陵西南建壽陵時，侍中喬豫、和苞上疏進諫，劉曜聽了大喜說：“二侍中懇懇有古人風烈矣，可謂社稷之臣也”。遂罷其工程。但平定巴、氐叛亂不久，就開始對大臣們的進諫聽不進去了。陳安之亂未平，劉曜就為其父母建永垣陵、顯平陵，功費至億，遊子遠進言停建，但他不聽。
進攻石生
東晉太寧二年（325年），後趙石生進攻前趙河南太守尹平於新安（今河南新安），尹平戰敗被斬，石生掠前赴5000人而還，太寧三年（326年），前趙劉曜聯合東晉司州刺史李矩、潁川太守郭默進攻石生，劉曜派中山王劉嶽將兵15000人，以鎮東將軍呼延謨率荊州、司州之兵會攻石生，前趙聯軍迅速攻克石樑（今河南洛陽市東）、孟津（今河南孟津）。石虎率步騎五萬自成皋（今河南滎陽西北）與劉嶽戰於洛西，大敗後趙軍隊。六月石虎收復石樑，擒劉嶽及其將住80餘人，氐羌三千餘人，皆送襄國（今河北邢臺西南）、坑其士卒一萬餘人，不久又攻陷幷州。劉曜敗歸長安，