皆已降。韓遂在顯親，淵欲襲取之，遂走。淵收遂軍糧，追至略陽城，去遂二十餘裡，諸將欲攻之，或言當攻興國氐。淵以為遂兵精，興國城固，攻不可卒拔，不如擊長離諸羌。長離諸羌多在遂軍，必歸救其家。若羌獨守則孤，救長離則官兵得與野戰，可必虜也。淵乃留督將守輜重，輕兵步騎到長離，攻燒羌屯，斬獲甚眾。諸羌在遂軍者，各還種落。遂果救長離，與淵軍對陳。諸將見遂眾，惡之，欲結營作塹乃與戰。淵曰：“我轉鬥千里，今復作營塹，則士眾罷弊，不可久。賊雖眾，易與耳。”乃鼓之，大破遂軍，得其旌麾，還略陽，進軍圍興國。氐王千萬逃奔馬超，餘眾降。轉擊高平屠各，皆散走，收其糧谷牛馬。乃假淵節。
初，枹罕宋建因涼州亂，自號河首平漢王。太祖使淵帥諸將討建。淵至，圍枹罕，月餘拔之，斬建及所置丞相已下。淵別遣張郃等平河關，渡河入小湟中，河西諸羌盡降，隴右平。太祖下令曰：“宋建造為亂逆三十餘年，淵一舉滅之，虎步關右，所向無前。仲尼有言：‘吾與爾不如也。’”二十一年，增封三百戶，並前八百戶。還擊武都氐羌下辯，收氐谷十餘萬斛。太祖西征張魯，淵等將涼州諸將侯王已下，與太祖會休亭。太祖每引見羌、胡，以淵畏之。會魯降，漢中平，以淵行都護將軍，督張郃、徐晃等平巴郡。太祖還鄴，留淵守漢中，即拜淵徵西將軍。二十三年，劉備軍陽平關，淵率諸將拒之，相守連年。二十四年正月，備夜燒圍鹿角。淵使張郃護東圍，自將輕兵護南圍。備挑郃戰，郃軍不利。淵分所將兵半助