亂，自立為帝，並與突厥聯手南下圖謀天下。隋煬帝聞訊欲治李淵之罪，這使李淵感到恐慌。在緊急情況下，李世民建議立即行動。儘管隋煬帝隨後赦免了李淵，但他身邊的心腹們仍然鼓勵他起兵。於是，李淵以討伐劉武周和防禦突厥為藉口開始招募士兵，並暗中召回在外的兒子們準備起事。
太原副留守王威和高君雅對李淵早已產生了懷疑，二人密謀借祈雨之名，試圖除掉李淵父子。然而，他們的陰謀卻未能得逞，反而計劃被李淵提前察覺。意識到危機迫在眉睫，李淵迅速採取行動，搶先一步發難。
李淵指控王威和高君雅勾結突厥，意圖不軌，並以此為由將二人囚禁。不久之後，當突厥果然發動進攻時，李淵趁機以叛國罪名處決了王威和高君雅，從而化解了眼前的威脅。
為確保北方邊境的安全並獲得外部支援，李淵派遣劉文靜前往突厥進行外交斡旋。劉文靜憑藉其卓越的談判技巧，透過謙卑的態度和豐厚的禮物，成功贏得了始畢可汗的支援。始畢可汗同意提供軍事援助，並與李淵建立了友好關係，這為李淵未來的軍事行動提供了重要的戰略保障。
六月，隨著李建成和李元吉的到來，李淵終於解除了後顧之憂。在兩位兒子的輔佐下，他接受了謀士們的建議，正式自稱大將軍，設立了一系列官職，並任命自己的兒子們擔任重要將領。為了贏得民心，李淵還下令開放倉庫救濟窮人，此舉贏得了廣泛的民眾支援。在他的領導下，這支隊伍迅速發展壯大，在短時間內人數便擴充套件至數萬人。
李淵的仁政與領導魅力吸引了大量志士前來投奔，軍隊士氣高漲，戰鬥力顯著增強。隨著力量的不斷壯大，李淵制定了入關奪取長安的戰略計劃。這一決策不僅體現了他對時局的精準把握，也展現了他作為領導者的眼光與決心。
南下建唐
大業十三年（617年）七月五日，李淵率領三萬士兵在晉陽正式宣佈起兵。他們沿汾河谷道南下，表面上宣稱是為了尊崇隋朝，擁立隋煬帝的孫子楊侑為帝。突厥始畢可汗送來了千匹馬，並且原西突厥特勤阿史那大奈也率兵支援李淵。
當李淵的軍隊到達賈胡堡時，遇到了隋朝代王派來的兩路阻擊：宋老生帶領兩萬精兵駐紮在霍邑，而屈突通則帶著數萬人守衛河東。此時正值秋季多雨季節，道路泥濘難行，加上軍糧短缺，李淵的軍隊前進受阻。外界還有傳言說突厥和劉武周將要襲擊晉陽，因為劉文靜還在突厥未歸，大家對這些訊息真假難辨。
面對困境，李淵召集將領們商討對策。裴寂等人建議退回晉陽，保護基地，再圖後舉；但李建成和李世民堅決主張繼續前進。經過深思熟慮，李淵決定聽從兒子們的建議，繼續進軍。
八月，天氣轉晴，糧食也從太原運到了前線。李淵隨即指揮部隊進攻霍邑。戰鬥中，李淵用計分散了宋老生的注意力，讓他的軍隊離開了城門約一里多地佈陣。然後，李建成和李世民分別繞到敵軍背後，堵住了東門和南門，切斷了宋老生的退路。
與此同時，有士兵高喊“宋老生已被斬首”，導致宋老生的部隊陣腳大亂，紛紛潰逃。李淵的軍隊乘勝追擊，最終成功擊敗宋老生，佔領了霍邑。接著，李淵的軍隊勢如破竹，迅速拿下了臨汾和絳郡，一直推進到了龍門縣。
這次勝利為李淵的軍事行動奠定了堅實的基礎，也為後來建立唐朝鋪平了道路。
援軍到來
大業十三年（617年），劉文靜帶著突厥大將康鞘利及其五百士兵和兩千匹馬趕到李淵的軍隊。隨著突厥援軍的到來，沿河的隋朝守臣紛紛投降。李淵還成功招降了馮翊地區的農民軍首領孫華，並派遣王長諧、劉弘基和陳演壽率領六千步騎兵渡過黃河，在梁山等待主力部隊的到來。
李淵親自率軍包圍河東，但面對堅固的防禦，他考慮直接西進長安。裴寂建議先攻克河東以避免腹背受敵，而李世民則主張快速行動直取長安。綜合兩者的建議後，李淵決定留下部分兵力繼續圍困河東，自己則帶領主力軍向西進發，從壺口渡河並在朝邑長春宮駐紮。關中計程車民聞訊紛紛前來歸附，場面十分熱烈。
娘子軍前來助戰
在進軍過程中，李淵的親屬也積極響應。他的女兒平陽公主（嫁給了柴紹）在鄠縣散盡家財，招募義士，組建了一支七萬人的“娘子軍”。李神通和女婿段綸也在當地起兵響應。李世民一路西進，廣納人才，待到涇陽時已有九萬大軍，與平陽公主的部隊會合，聲勢浩大。李建成被派往永豐倉扼守潼關以防東方來援，而李世民則帶兵掠奪渭水北岸