建安二十一年公元216年）春，北麵的代郡烏桓三部又開始搗亂。
烏桓三部大人皆自稱單於，管轄範圍內的各項事宜都是他們自己說了算。
久而久之，周邊百姓都慢慢覺得太守的命令可以不執行，但單於說的話必須得做到。
這些單於自信心也開始膨脹，逐漸將手伸到了全郡事務。
當時的代郡太守眼看郡中事務無法控製，隻好將情況彙報給了曹操。
北方烏桓飄忽不定一直是曹操的一塊心病，他必須要挑選一名信得過的得力乾將，將代郡之事徹底解決。
於是，曹操想到了一個人，此人出身河東裴氏，是東漢末年的名士，以“有高行”“明於治體”著稱。他早年曾避亂荊州，對時局和地方治理有深刻洞察，且具備應對複雜局麵的靈活性。
此人便是裴潛。
曹操看中裴潛的核心特質，善於因地製宜，任命裴潛為代郡太守，並授權讓裴潛帶領精兵前去鎮壓討伐。
裴潛推辭說：“代郡人口眾多，稍有行動便能聚集上萬兵馬。單於自知放肆橫行日久，心裡也不踏實。如今多帶兵馬前去，他們一定會因害怕而拒絕我軍入境，兵馬帶少了他們又不放在眼裡。依我看應該用計謀解決問題，而不能用軍隊來威迫。”
於是裴潛隻身乘車前往代郡。
單於驚喜參半，裴潛平靜和緩地安撫他，單於和他的部下都摘下帽子，屈膝下拜，以額觸地，全部歸還了前後幾次掠奪的婦女、器械和財物。
裴潛按律誅殺了代郡與單於內外勾結的高官郝溫、郭端等十餘人，北方邊境地區大為震驚，老百姓心歸魏室，代郡隨即平定。
後來裴潛在代郡做了三年太守回到朝廷任丞相理曹掾。
曹操稱讚褒獎了裴潛治理代郡的功勞，裴潛說：“我對百姓雖然寬宏,，但對胡人卻很嚴厲。如今謀臣們一定認為我於理過嚴，於事過寬。其實胡人一向驕橫恣肆，管治過寬必然導致鬆弛散漫，因此隻能將他們繩之以法，這就是訴訟紛爭所以產生的原因。從現在的形勢上判斷，代郡一定還會發生叛亂。”
聽完這番話，曹操十分後悔這麼快就讓裴潛回來，幾十天以後，果然又傳來三個單於造反的消息。
曹操隻得派鄢陵侯曹彰為驍騎將軍，前去征伐他們。
有類似問題還有鄴城西麵的並州。
生活在並州地區的南匈奴隨著並州的穩定，人口不斷繁衍，勢力也逐漸增大。
同年七月，南匈奴單於呼廚泉入朝魏國。
呼廚泉興平二年公元195年）歸順曹操，並在建安七年公元202年）並州之亂時起兵反曹。
南匈奴與烏桓一樣，常常搖擺不定。
曹操恐其蔓延難製，對呼廚泉很不放心，便想了一個辦法。
他把呼廚泉留於鄴城，用上賓之禮對待他。
呼廚泉曾任內侍，對於留在鄴城也不好多說，何況如今曹操位高權重，根本不能得罪。
曹操再次讓南匈奴的右賢王去卑居平陽，管理南匈奴各部。
曹操又分南匈奴為左、右、前、後、中五部，每部選尊貴者為帥，彆令漢人為司馬，以監督之，左部居太原故茲氏縣、右部居祁縣、南部居蒲子縣、北部居新興縣、中部居大陵縣。
從地圖上就能看出，五部相距較遠，中間還有其他縣城間隔，一時間根本無法統一行動。
加上部落中還有漢人為司馬監督，名義上部落的統帥是當權者，實際漢人司馬才是話事人。
如此一來，雖然南匈奴部落名義上繼續保存著，但權力卻已全部落入曹魏政權的手中。
單於隻是徒有虛名的稱號，南匈奴國家政權亡。
同年八月，曹操任命鐘繇為相國，把國內之事交給他全麵處理。
十月，處理完烏桓和南匈奴之事，又安排好了鄴城各項事宜，曹操再次發兵南下，討伐孫權。