后来的事情就比较简单了，呼韩邪单于朝汉，与汉修好，封王昭君为宁胡阏氏。此时双方相安无事，局势安定，国力得到恢复，人口增加。呼韩邪死后，其后裔遵从他的遗嘱，与汉朝保持友好关系达三十多年。直到王莽专政为止。
王莽建新朝后，收匈奴印玺，分匈奴居地为十五部，强立呼韩邪子孙十五人俱为单于。王莽的行为激起了匈奴的不满，连年侵扰北方边塞，西域诸国先后沦入匈奴势力范围。
东汉初期光武帝与匈奴通好，不断派遣使者前往赐财物，而单于骄倨益横，汉匈关系仍没有改善。卢芳割据之时，匈奴扶植卢芳为汉帝，割据五原、朔方、云中、定襄、雁门等五郡，都九原。后降汉，被封为代王。后复叛，留匈奴历十余年。
在东汉初年，匈奴就大量进入塞内。光武帝时，匈奴国内发生严重的自然灾害，人畜饥疫，死亡大半，而权贵因争权夺利发生分裂。数年后年，匈奴八部族人共立呼韩邪单于之孙日逐王比为单于，与蒲奴单于分庭抗礼，匈奴分裂为两部。后日逐王比率四万多人南下附汉称臣，称为南匈奴，安置在汉朝的河套地区。而留居漠北的称为北匈奴。
光武后期，南匈奴单于比与北匈奴相战失败，光武帝下诏南匈奴单于比率部从离五原西部寒八十里处的南单于庭继续向内徙居到西河美稷，以美稷为南单于庭。单于比又将南匈奴的各部屯居在汉朝北部的北地、朔方、五原、云中、雁门、代、定襄等郡。
留居漠北的北匈奴，连年遭受严重天灾，又受到南匈奴、乌桓、鲜卑的攻击，不得已多次遣使向东汉请求和亲，大汉政府不允。北匈奴连年袭扰劫掠幽州、并州、凉州。
大汉政府自然不能忍受，兼之国力日盛，廷议北伐，并派遣班超通西域。在南匈奴的配合下，窦固、窦宪多次与匈奴大战。正在匈奴衰弱之际，东方的鲜卑乘势崛起，87年竟然攻破北匈奴杀死优留单于，导致北匈奴大乱。
东汉乘此时机，两次派窦宪出塞，与南匈奴联合夹击北匈奴。最终窦宪、耿秉率军与南匈奴军队与北单于战于稽落山，北单于大败逃走，汉军追击，俘杀一万三千余人，北匈奴先后有二十余万人归附。窦宪、耿秉登燕然山刻石纪功而还。数年后再出击北匈奴，北单于受伤逃走。次年东汉军又出击金微山大败北匈奴军，北单于被迫西迁，率残部西逃乌孙与康居。
北单于在乌孙康居站稳脚跟后，念念不忘回复旧地，仍然出没于天山南北，实施掠夺。北匈奴攻陷了伊吾，杀死了汉将索班。为了对付西域的北匈奴，东汉朝廷任命班勇为西域长史，屯兵柳中，班勇于两次击败北匈奴，西域的局势开始稳定。后来西域汉将两侧击败北匈奴新王呼衍王，迫使呼衍王率北匈奴又向西撤退。
后来，南匈奴单于师子立。新降的北匈奴部众对单于师子不服，在同年，十五部二十几万人皆叛变，胁迫前单于屯屠何之子奥鞬日逐王逢侯为单于，匈奴再次分裂，东汉派遣大军以及乌桓、鲜卑兵共四万人大败逢侯，逢侯遂率众出塞，汉军追赶不及。逢侯趁东汉放弃西域之际，控制西域，胁迫诸国共同搔扰东汉边疆十几年。再后来，逢侯被鲜卑击败，率领百余人投靠东汉。
其后，南匈奴一支在大汉的庇佑下生存，目前已经有户五万，口三十六万，骑兵七万。五年前，伊陵尸逐就单于去世，其子屠特若尸逐就单于位，此次率兵五千随同护匈奴中郎将臧旻北伐。