後不得不南遷至大漢的幽州境內，鮮卑人乘機佔據了原來烏桓人的領地，從此鮮卑開始強盛起來，只是這時的鮮卑人仍處在匈奴的控制之下。
鮮卑人的地盤此時也開始與大漢接壤，並且開始與漢“始通驛使”，同時為了對抗匈奴人的奴役，當時的鮮卑大人偏何親至遼東，率部眾歸附大漢，遼東太守祭彤便唆使其反擊匈奴，從此，匈奴與鮮卑歲歲相攻，爭鬥不休，導致後來匈奴勢力日漸衰落。
建武三十年（公元54年），鮮卑大人於仇賁、滿頭率族人歸附大漢，被封為王和侯，這也是鮮卑接受漢朝封號之始，同時，祭彤又賂使偏何出兵襲擊徙居漁陽的赤山烏桓，永平元年（公元58年），偏何率部攻下赤山，斬烏桓大人歆志賁，又使自己的勢力大大增強，使得鮮卑在塞外與匈奴的力量對比上逐漸佔據了上風。
隨著鮮卑勢力的增長，反抗匈奴奴役的鬥爭也不斷爆，東漢元和二年（公元85年），鮮卑、丁零、南匈奴以及西域諸族聯合起來，開始對北匈奴進行全面攻擊，至章和元年（公元87年），鮮卑騎兵又“入左地，擊北匈奴，大破之，斬優留單于，取其皮而還”。
永元元年至三年（公元89—91年），被逼無奈的北單于從蒙古草原遷出，西走中亞，鮮卑乘機佔據了原屬北匈奴的地域遼闊的漠北之地，而遺留在草原上的匈奴十餘萬落為了活命，也都加入了鮮卑族，令鮮卑族由此大盛。
公元1世紀末，塞外鮮卑逐漸向遼東、遼西、代郡、上谷四郡內移動，並且與原來居住在那裡的烏桓族人雜居，以便與漢朝進行互市，公元2世紀初，東漢統治者允許在烏桓校尉治所寧城互市，並築有南北部質館，使互市順利進行。
此後，鮮卑和大漢之間，以及與烏桓、匈奴之間，不時有衝突生。
當時，漢朝的政策是依恃烏桓，聯合匈奴，共同攻擊鮮卑，由於鮮卑內部不統一，經常出現此和彼戰的現象，到了安帝永初年中，鮮卑大人燕荔陽詣闕朝賀，當時把持朝政的鄧太后賜燕荔陽王印緩，令其至寧城通互市，併為此修築了南北兩部質館，當時的鮮卑邑落百二十部，各遣入質，其實也就是為了保證互市的正常進行，讓鮮卑各部落都派人質到質館中作抵押。
到
了永寧元年（公元12o年），遼西鮮卑大人烏倫、其至鞬二人率領他們的部眾到度遼將軍鄧遵處歸附大漢，當時的朝廷封烏倫為率眾王，其至鞬為率義侯，但是沒過多長時間，其至鞬又不幹了，領著自己的部眾脫離了大漢的統治，並且不斷對漢地進行騷擾，致使雙方展開了連續十餘年的戰爭。
隨著北匈奴西遷以後，繼承了他們土地和部眾的鮮卑族日益強大，為適應統治漠北蒙古草原的需要，解決各部落生計，協調諸部關係及與漢地互市、軍事征伐、掠邊搶奪等問題，鮮卑的政治組織也生了一定變化，到了公元2世紀中葉，以檀石槐為的鮮卑軍事聯盟應運而生。
檀石槐的父親乃是當時鮮卑的一個部落領，曾被封為投鹿侯，年輕時在匈奴中服兵役三年，結果就是在他在匈奴軍中服役的時候，他的妻子生下了檀石槐，投鹿侯服役期滿回家後，心知肚明這檀石槐不可能是自己親生的，肯定是自己妻子不守婦道的結果，因此一見到這個野種便想殺了他，檀石槐之母為了保住兒子的性命，便騙投鹿侯說自己以前有一次在日間外出行走時聽到雷震，“仰天視而雹入其口”，吞下後就有了身孕，因此“此子必有奇異，且宜長視”。
投鹿侯雖然不相信其妻的胡說八道，但最終並沒有殺死檀石槐，而是改為把兩歲大的檀石槐扔到野外，由他自生自滅，檀石槐的母親心疼兒子，忙派人給孃家送了個信，檀石槐的外祖父也是個部落領，於是忙派人去野外把他抱回家中收養，算是給他撿了一條命。
檀石槐自幼勇鍵有智略，長大之後便迴歸了自己父親的部落，而投鹿侯雖然心中不喜，但平白撿個兒子也就認了，在他父親投鹿侯死後，頗有心計的檀石槐由於族人的一致推薦，繼承了部落領之位，由於他在部落中“施法禁，平曲直，無敢犯者”，因此後來被推舉為一個更大部落的大人。
東漢桓帝時（公元146—167年），檀石槐於高柳北三百里的彈汗山興建鮮卑王庭，同時大肆招兵買馬，一時之間他的部落兵強馬壯，令其餘部落的鮮卑人盡皆歸附。
檀石槐所統帥的鮮卑大軍，曾經東敗夫餘，西擊烏孫，北逐丁零，南擾漢邊，盡有匈奴故地，最後建立起了一個東西長達一萬二千餘里，南北長達七千餘里的強盛的鮮卑部落大聯盟。