正如他本人所說，李克用父子“雄武之略，為眾所推”，所以他把沙陀復興的希望寄託在李克用父子身上。而李克用也沒有辜負這位“族父”的期望，他不僅恢復了沙陀人在李國昌時期的鼎盛，而且建立了一個以沙陀人為核心的強大的地方割據政權，為五代沙陀三王朝的建立開闢了道路。
中和三年（883）五月，李克用因鎮壓黃巢之功被唐朝廷任命為河東節度使。從此，李克用、李存勖父子以河東為基地展開了他們的霸業，而代北集團也在河東形成了它的最後格局。
唐末五代時期的牙軍和作為藩帥的各王朝的始祖們有著密切的關係，在建立王朝時，他們是集權力量的核心。李克用雖未及建立王朝，但卻是後唐王朝奠基人，直接導致了後唐王朝的建立，他的統治力量的核心無疑亦是牙軍。
李克用的牙軍，明確載入史冊的有義兒軍、決勝軍、鐵林軍、橫衝軍、突騎軍、親騎軍、突陣軍、五院軍、飛騎軍、雄威軍、廳直軍、萬勝黃頭軍、匡霸軍、飛騰軍、馬前直軍等等軍號。牙將有李克修、李克恭等46人。除此之外，象康延孝、張廷裕、何懷福、阿登啜（楊光遠父）、郭紹古、杜漢徽、安懷盛（安叔千父）、史敬思（史建瑭父）、臬捩雞（石敬瑭父）、杜堆金（杜重威父）、王思同、劉琠（劉知遠父）、周密、安福遷、安福順、安福慶兄弟以及安金俊、安休休等，亦都在李克用軍中任職，而且如史敬思、安金俊、安休休、安福遷兄弟等，都是有名的軍將。
若是一一細看，則可看得分明：李克用的這一統治集團，大體上是由三部分人組成，也就是代北人、河東人和其他外來人員。不過河東人雖然接受了李克用的統治，但在李克用麾下並不受重用，而外來人士更次之。真正最受李克用倚重的，正是代北人。
代北人作為李克用“代北軍事集團”核心中的核心，又可分為三部分：一是沙陀三部族；二是五部之眾；三是代北漢人。
先說沙陀三部族。中和元年二月，李友金率領5000人入援京師。《舊五代史·唐武皇紀上》雲：“黃巢犯長安，僖宗幸蜀，陳景思與李友金髮沙陀諸部五千騎南赴京師。”所謂“沙陀諸部”，即沙陀三部落。他們後來都跟隨李克用進入河東，成為代北集團的核心力量。李克修、李克恭、李克寧三兄弟、楊光遠之父阿登啜、劉知遠之父劉琠以及郭紹古均為沙陀人，康義誠為代北三部落人，安懷盛為沙陀三部落人，這些都是明確的。此外還有史敬思，《全唐文》雲：“大王父諱懷清，皇任安慶九府都督；王父諱敬思，皇任安慶九府都督；顯考諱建（此處史書缺六字）兼九府都督。”史匡翰為史建瑭之子，故此“王父諱敬思”，即史建瑭之父。“安慶九府都督”，應該就是沙陀三部落之一的安慶部落都督，因此，史敬思及其子史建瑭，亦均為沙陀三部落人。而史儼，從其姓氏及籍貫看，也很有可能與史敬思為同族。至於史敬鎔，從其姓名看，也很有可能是史敬思的同族，至於其佔籍太原，應該與康思立一樣，是後來之事。
另一五代大名人、後唐明宗李嗣源，一般都認為他是沙陀人，但在新、舊《五代史·唐明宗紀》中，或作“世本夷狄，無姓氏”；或作“代北人也，世事武皇，及其錫姓也，遂編於屬籍”。可見其族屬不是很明確，姑且將其列入沙陀人之列。李存孝（即安敬思）、康君立、安金全、安元信、康福、康思立、康延孝、安福遷，史籍或不曾明確記載其族屬，但從他們的姓氏及籍貫看，應該也都屬於代北胡人。比如康君立，史稱他“世為邊豪”，康君立也每每自稱“吾等雖權系部眾”、“我等邊人”等等，可見其出身應為胡人。又如安金全，新、舊《五代史·本傳》均作“代北人”，而在其子《安審琦傳》中，明確記載“其先沙陀部人也”。石敬瑭的族屬，後世學術界已多認為系昭武九姓石國人，則其父臬捩雞亦為昭武九姓胡人。
所謂“五部之眾”或“五部之人”，有時是指沙陀三部落和契苾、吐谷渾五部。史籍也多有將這五部相提並論的記載，如前引會昌二年，振武節度使劉沔“率吐渾、契苾、沙陀三部落等諸族萬人”討擊党項等等。但是在大多數場合，“五部之眾”或“五部之人”是一種泛稱，如在李克用殺害段文楚事件中，康君立謂李克用：“公家父子，素以威惠及五部”；天覆元年，李克用致朱全忠的信中，聲稱自己“勝則撫三晉之民，敗則徵五部之眾”；以及前引李友金在代州募兵3萬，“皆北邊五部之眾”等等，這裡的“五部”、“五部之眾”，就是對代北地區蕃胡部落的泛稱，所以李友金所募集的“北邊五部之眾”，《通