孝文帝十四年（公元前166年），匈奴老上單於率領十四萬騎兵深入朝那縣蕭關，殺害北地郡都尉孫卬，擄掠走很多畜產和當地百姓，接下來又侵犯彭陽縣。派出騎兵燒毀回中宮，匈奴偵察騎兵一直深入到雍縣的甘泉宮。文帝隻好任命中尉周舍、郎中令張武為將軍，征調戰車千乘，騎兵十萬，在長安附近駐軍防守，以備胡虜前來。又任命昌侯盧卿為上郡將軍，寧侯魏速為北地將軍，隆慮侯周灶為隴西將軍，東陽侯張相如為大將軍，成侯董赤為將軍，征調戰車、騎兵部隊前往迎擊匈奴。老上單於在塞內停留一個多月，漢軍將其逐出塞外，隨後撤軍返回，沒有任何斬獲。匈奴日益驕橫，以後每年都要深入漢地，殺死的百姓很多，雲中郡、遼東郡遭受匈奴入侵的機會最多，每郡被殺的民眾達上萬人。漢朝邊境一時間戰雲密布，深受匈奴荼毒，文帝派出使者向匈奴送去書信，老上單於也讓手下當戶前來解釋謝罪，又重新提出和親的事情。
孝文帝後元二年（公元前162年），文帝派出使者送予老上單於書信，說：“皇帝向匈奴大單於問候。大單於派當戶且渠雕渠難、郎中韓遼送予朕的二匹馬，朕已經收到，朕表示謝意。先帝曾經製定製度，長城以北騎射之國受單於管轄，長城以南冠帶之國受朕統治，漢地的百姓，倚賴耕織生活，草原民族，倚靠射獵獲取衣食，父子不再分離，雙方君主相安，不再有暴虐行為。而今聽說有些邪惡的民眾，貪圖錢財，謀取利益，背信棄約，不顧百姓的性命安危，離間雙方君主的和諧關係，這些事情都已經過去。你的來信中講‘兩國已經和親，兩國君主和諧歡洽，應該休兵息戰，放歸戰馬，世代安寧祥和，重新開始雙方的睦鄰關係。’朕看後很高興。聖君也要不斷地學習，使國家的治理不斷更新，讓老年人得以安享晚年，年幼者得以健康成長，安居樂業，終其天年。朕與單於都讚成這樣的想法，順應天道撫恤百姓，世代安寧，以至無窮，天下人莫不希望過上安寧的生活。漢朝與匈奴是相鄰的二個大國，匈奴地處北部廣大地域，天氣寒冷，霜凍來得早，我因此詔令官吏送予單於秫糵、金錢，絲帛、綿絮，還有其它物品，每年都有一些。現在天下安定，萬民祥和，隻有朕與單於是百姓們的父母，朕追念此前發生的事情，都是一些不足掛齒的小事，因為謀臣處理不當，不足以讓兄弟間失去和氣。朕聽說天不偏心，地不偏載。朕與單於應該將此前發生的不愉快忘記掉，重新走上正確的大道，消除誤會，為今後的持久和平共同努力，使兩國間百姓親如一家。天下的百姓，上至飛鳥，下及魚鱉，各種飛禽走獸，爬行動物，莫不是趨向安寧，逃避危殆。對待逃生的人不要再加以製止，這是上天賦予的道理。忘掉此前發生的不愉快，朕赦免逃難或者擄掠到匈奴去的人民，單於也不要再責難降漢的章尼等人。朕聽說上古時的帝王，一旦訂立下盟約，就絕不食言。單於仍然留意和親之事，天下安定，和親之後，漢絕不會首先違背盟約，單於可以明察。”
老上單於約定要與漢朝和親，文帝製詔書予禦史大夫：“匈奴大單於給朕送來書信，和親的事情已經確定下來，逃亡的人民不足以增加民眾，與匈奴交戰不足以擴大土地，匈奴不再入塞，漢人不再出塞，違犯條約者，格殺勿論，努力保持長久和平，不給後世人留下遺患，雙方都有好處，朕已經批準。布告天下百姓，讓大家知道。”
又過了四年（文帝後元三年，公元前161年），老上單於去世，兒子軍臣單於即位，中行說繼續服侍新單於。漢恢複與匈奴和親。
軍臣單於繼位一年後，匈奴又違背了與漢朝和親時的約定。大肆入侵上郡、雲中郡（文帝後元六年，公元前158年），每路匈奴大軍有三萬騎兵，殺害的漢人很多，匈奴人瘋狂搶掠。文帝不得不再派出三位將軍在北部邊境駐守，一路駐紮在北地郡，一路駐紮在代國的句注山，一路駐紮在趙國的飛狐口，沿著邊境，安排了很多駐軍，以備匈奴襲擾。又安排了三位將軍率領漢軍，一路駐紮在長安西邊的細柳營、一路駐紮在渭河北岸的棘門營、一路駐紮在霸上，以備匈奴南下深入漢境。胡騎侵入代國句注山邊，報警的烽火一直燒到甘泉宮、長安城，長達幾個月。漢軍抵達邊境，匈奴遂緩緩地退出塞外，漢軍也隨即撤回。又過去一年多，文帝駕崩（文帝後元七年，公元前157年）。景帝即位後，趙王劉遂陰謀勾結匈奴，吳楚七國叛亂，匈奴企圖與趙國聯合起來侵入邊境。漢軍圍攻打敗趙國，匈奴這才作罷。從此後，景帝繼續與匈奴和親，互通關市貿易，送予單於的禮物非常豐厚，景帝將翁主像此前一樣嫁往匈奴。直到景帝駕崩，在此期間，仍時常有小股匈奴入侵盜邊，沒有大的襲擾。
武帝即位，繼續加強和親，朝廷約束邊民的行為，向匈奴送去厚禮，互通關市貿易，使匈奴得到很多好處。匈奴從單於以下的大小部落，都願意與漢朝保持友好關係，兩國人在長城下往來。
漢朝派出馬邑人聶翁壹攜帶著貨物，私自出關與匈奴人進行交易，以出賣馬邑城為誘餌，誘騙匈奴單於。軍臣單於相信了，貪圖馬邑的財物，於是率領十萬騎兵深入到武州縣要塞。漢軍伏兵三十餘萬，在馬邑附近埋伏，禦史大夫韓安國擔任護軍將軍，率領四位將軍以逸待勞，等待單於。軍臣單於進入漢塞後，距離馬邑城還有一百餘裏，看到四野的牲畜滿山遍野，卻無人管護，感到奇怪，攻下一座亭障。當時的雁門郡校尉正在亭障巡查，看到匈奴來犯，躲在亭障內，被單於擒獲，單於要殺校尉。校尉知道漢軍的計劃，趕忙投降，將漢軍埋伏的謀劃告訴單於，軍臣單於聞言大驚，說：“我早就有懷疑。”遂引兵撤退，返回後說：“我捕獲這位校尉，實在是天助我也。”將校尉封為天王，漢軍原來的計劃，是等待單於進入馬邑後，全軍出擊，單於沒有來，計劃也因此落空。將軍王恢原計劃從代國出擊，截斷匈奴的後勤輜重，聽說單於撤軍，而且人數很多，不敢出擊。朝廷以王恢首先建議此次伏擊，屆時卻臨陣畏敵不前，殺了王恢。從此後，漢朝斷絕了與匈奴和親，匈奴也開始攻打漢朝的邊境要塞，攔路搶劫，常常侵入邊郡，殺人放火，難以計數。可是匈奴雖然貪婪，還是想與漢朝互通關市貿易，喜歡漢人的貨物，漢朝也不阻斷與匈奴的關市貿易，繼續與匈奴保持著聯係。
馬邑之戰後的第五年（武帝元光六年，公元前129年）秋天，朝廷派出四位將軍，各率領一萬騎兵，在邊境一帶的關市附近打擊匈奴。將軍衛青從上穀郡出兵，抵達龍城，斬殺捕獲匈奴七百人。公孫賀從雲中郡出兵，一無所獲。公孫敖從代郡出兵，被匈奴人打敗，損失七千人。李廣從雁門郡出兵，被匈奴人打敗，匈奴生擒李廣，李廣在途中逃脫，返回。朝廷將公孫敖、李廣逮捕，而後公孫敖、李廣花錢贖罪，朝廷將他們貶為庶人。當年冬天，幾千名匈奴人入侵邊郡，漁陽郡受害最重。朝廷派將軍韓安國率領漢軍駐守在漁陽郡，抵禦匈奴。第二年（武帝元朔元年，公元前128年）秋天，二萬匈奴騎兵又入侵漢朝邊郡，殺害遼西郡太守，擄掠走二千餘人。還打敗漁陽郡太守率領的一千多漢軍，包圍將軍韓安國。韓安國此次率領的一千餘騎兵，全部戰死，燕國救援的漢軍及時趕到，看到援軍抵達，匈奴這才退去，之後又侵入雁門郡，殺害擄掠一千餘人。武帝於是派遣將軍衛青率領三萬騎兵從雁門郡出兵，李息從代郡出兵，反擊匈奴，斬殺捕獲匈奴幾千人。第二年（武帝元朔二年，公元前127年），衛青從雲中郡以西再次出兵，抵達隴西郡，襲擊黃河以南的樓煩王、白羊王，斬殺捕獲幾千名匈奴人，繳獲上百萬頭牛羊。從此之後，漢軍占據了黃河以南的土地，在此地修築朔方城，修繕原來秦國時蒙恬修築的邊塞，以黃河為要塞，鞏固邊防。漢朝也放棄了上穀郡的偏僻縣造陽地區，匈奴隨後占領該地域。這一年，是元朔二年（公元前127年）。
第二年冬天（武帝元朔三年，公元前126年），軍臣單於去世，單於的弟弟左穀蠢王伊稚斜自立為單於，打敗軍臣單於的太子於單。於單逃亡到漢朝，漢朝封於單為涉安侯，幾個月後於單去世。
伊稚斜單於即位後，當年夏天，數萬名匈奴騎兵入侵代郡，殺害郡太守共友，擄掠走一千餘人。當年秋天，又入侵雁門郡，殺害擄掠一千餘人。第二年，再次入侵代郡、定襄郡、上郡，每路三萬匈奴騎兵，殺害擄掠數千人。匈奴右賢王痛恨漢朝奪去了黃河以南的土地，而且在當地修築朔方城。右賢王多次襲擾漢朝邊境，深入進黃河以南，襲擾朔方郡，殺害擄掠官吏百姓。
第二年春天（武帝元朔五年，公元前124年），武帝派衛青率領六位將軍，統領十餘萬漢軍從朔方郡高闕縣出兵。右賢王認為漢軍不會前來，當晚喝得酩酊大醉。漢軍出塞六七百裏，夜襲右賢王。右賢王從睡夢中驚醒，脫身逃走，匈奴的精銳騎兵在後麵緊隨而去。漢軍捕獲右賢王部落男女一萬五千人，小王以下十餘人。當年秋天，一萬匈奴騎兵入侵代郡，殺害郡都尉朱央，搶走一千餘人。
第二年春天（武帝元朔六年，公元前123年），武帝再次派大將軍衛青率領六位將軍，統領十餘萬騎兵，仍然從定襄郡出兵，行進數百裏襲擊匈奴，此次出擊共斬殺捕獲匈奴一萬九千餘名。而漢軍也損失了兩位將軍，三千餘騎兵。右將軍蘇建僅以身免，孤身逃回。前將軍翕侯趙信因為戰事不利，投降匈奴。趙信，原來是匈奴的一位小王，投降漢朝，朝廷封趙信為翕侯，以前將軍身份與右將軍蘇建合兵一處，結果遭遇伊稚斜單於率領的匈奴大軍，致使全軍覆沒。伊稚斜單於得到了翕侯趙信，將趙信封為自次王，將姐姐嫁予趙信，與趙信一起商議對付漢軍的辦法。趙信建議單於將大軍撤退到沙漠以北，引誘漢軍遠途奔襲，而後在半路上截擊，不要靠近漢朝的邊塞。伊稚斜單於聽從了趙信的建議。接下來一年（武帝元狩元年，公元前122年），匈奴數萬騎兵侵入上穀郡，殺害數百人。
接下來的一年春天（武帝元狩二年，公元前121年），武帝派驃騎將軍霍去病，率領上萬騎兵從隴西郡出兵，翻過焉耆山，前進一千餘裏，斬殺捕獲匈奴八千餘名，繳獲休屠王的祭天金人。當年夏天，驃騎將軍又與合騎侯公孫敖率領數萬騎兵從隴西郡、北地郡出兵，前進二千裏，經過居延山，進攻祁連山，斬殺捕獲匈奴三萬餘人，裨小王以下首領十餘人。在當時，匈奴也同時入侵了代郡、雁門郡，殺害擄掠數百人。武帝派博望侯張騫與李廣將軍從右北平郡出兵，襲擊匈奴左賢王。左賢王包圍了李廣，李廣率領的四千漢軍，戰死者過半，斬殺匈奴與自己傷亡的人數大致相當。博望侯張騫率領的漢軍隨後抵達，李將軍得以解圍，漢軍損失慘重。合騎侯公孫敖跟隨驃騎將軍出征，延誤了時間，與博望侯一樣，按照軍法，應當判處死罪，花錢贖罪後被貶為庶人。
當年秋天，伊稚斜單於責怪昆邪王、休屠王，將居住的西部地域丟給了漢軍，而且遭到漢軍斬殺、俘虜的人數，達數萬人，召他們到匈奴王庭來，要殺掉他們。昆邪王、休屠王驚恐不安，暗地裏商議，陰謀降漢，武帝派出驃騎將軍前往迎降。昆邪王在休屠王翻悔時，殺了休屠王，兼並了休屠王的部眾，隨即降漢，共有四萬餘人，號稱十萬。從此漢朝獲取了昆邪王居住的地域，武帝在匈奴西部故地設置隴西郡、北地郡，黃河以西不再有匈奴出沒，而後將崤山以東的貧民遷徙到此地，以“新秦中”命名黃河以南、以西的土地，在這些新奪取的土地上，製定移民實邊的政策，武帝隨後減少了駐守在北地郡以西的一半戍卒。接下來一年春天（武帝元狩三年，公元前120年），匈奴再次入侵右北平郡、定襄郡，每路匈奴騎兵多達數萬人，殺害擄掠一千餘漢人。
接下來一年的春天（武帝元狩四年，公元前119年），武帝認為“翕侯趙信為單於出謀劃策，撤退到荒漠以北，認為漢軍不能抵達。”漢軍以粟米喂養戰馬，朝廷征調十萬騎兵，還有私自帶出關外的馬匹，共十四萬匹，運輸糧食輜重的馬匹，還沒有計算在內。武帝命令大將軍衛青、驃騎將軍霍去病，分兩路大軍，大將軍衛青從定襄郡出兵，驃騎將軍從代郡出兵，全部穿越沙漠，奔襲匈奴。單於聽到漢軍將要到來的消息，慌忙將輜重往後轉移，伊稚斜單於率領精銳騎兵在沙漠以北以逸待勞，等待漢軍。與衛青率領的大軍相遇，而後雙方鏖戰一整天，一直殺到暮色蒼茫，狂風驟起，漢軍此時從左右兩翼包抄匈奴。伊稚斜單於看到戰場上的形勢不利，自度不能再戰勝漢軍，遂率領數百精壯騎兵突破漢軍包圍，往西北方向落荒而逃。漢軍在後麵緊追不舍，伊稚斜單於最終得以逃脫，此戰漢軍共斬殺捕獲匈奴一萬九千餘人，而後漢軍向北抵達寘顏山趙信城，凱旋而歸。
在以往，伊稚斜單於假若敗逃，單於手下的士兵會緊隨其後。這一次單於長時間不能與部下聯係，右穀蠢王認為單於已經戰死，遂自立為單於。伊稚斜單於又再次露麵，右穀蠡王遂取消單於稱號，伊稚斜單於又重新恢複單於身份。
驃騎將軍霍去病從代郡出擊，前進二千餘裏，與左賢王相遇，雙方大戰，漢軍斬殺捕獲匈奴七萬餘人，左賢王和部將倉皇竄逃。驃騎將軍霍去病在狼居胥山封禮祭天，在姑衍山禪禮祭地，在翰海邊飲馬，而後漢軍凱旋返回。
在當時，匈奴遠遁，沙漠以南再也看不到匈奴王庭。漢人渡過黃河，從朔方郡向西抵達令居縣，興修水利，引出黃河水灌溉農田，武帝設置田官大肆修築灌溉渠道，安排漢軍達五六萬人駐守在當地屯田，不斷地蠶食匈奴地盤，漢朝北部邊疆深入進匈奴南部牧區。
當初，漢朝兩位將軍率領大軍圍困單於，斬殺匈奴達八九萬人，而漢軍將士也傷亡了數萬人，漢軍馬匹戰死和途中死亡的戰馬有十餘萬匹。匈奴人雖然戰敗，落荒逃遁，遠離了漢朝邊境，漢軍的馬匹也損失很大，沒有力量再繼續征剿匈奴。伊稚斜單於采取趙信的建議，派出使者與漢朝修好，前來和親。武帝將單於的請求交予大臣們廷議，有些人同意和親，有些人堅持匈奴必須向漢朝稱臣。丞相府長史任敞說：“匈奴新敗，應該作為外藩，在漢朝邊境向漢朝請求投降，而後漢朝再以禮相待。”武帝派出任敞出使匈奴。伊稚斜單於聽了任敞的說辭，勃然大怒，將任敞羈押。此前，漢朝也曾經招降過一些匈奴使者，單於同時會將相同數量的漢使扣押下來。朝廷重新整頓兵馬，準備再次遠征，此時，驃騎將軍暴病，不幸病逝（武帝元狩六年，公元前117年），在此之後，武帝暫時停止了派出大軍北擊匈奴。
幾年後，伊稚斜單於去世。伊稚斜單於在位十三年，兒子烏維單於繼任為單於。這一年，是武帝元鼎三年（公元前114年）。烏維單於即位後，漢武帝在邊郡巡狩，向匈奴耀武揚威。而後漢軍出兵南方，平定兩越叛亂，不再打擊匈奴，匈奴也不敢再襲擾邊境。
烏維單於繼位第三年，漢朝平定了兩越叛亂，武帝派出原太仆公孫賀率領一萬五千騎兵，從九原郡出兵（武帝元鼎六年，公元前111年），前進二千餘裏，抵達浮苴井，武帝又派出從驃侯趙破奴率領一萬餘騎兵，從令居縣出兵，前進數千裏，抵達匈奴河水，二路大軍都沒有發現匈奴的蹤跡。
在當時，武帝親自巡邊，抵達朔方郡（武帝元封元年，公元前110年），親自檢閱十八萬騎兵，以彰顯漢軍威武，武帝派出使者郭吉曉諭單於。郭吉來到匈奴王庭，匈奴負責接待的官員詢問漢使此行的目的，郭吉謙卑地回答：“我見到單於再說吧。”烏維單於接見郭吉，郭吉說：“南越王的頭顱已經懸掛在朝廷的北闕門上。而今單於如果能夠迎戰漢軍，天子將率領漢軍在邊境恭候單於；如果不能，匈奴就南麵向漢朝稱臣。為什麼要遠遁，躲避在這荒漠的北邊苦寒沒有水草的地方？”話剛說完，烏維單於大怒，殺了負責接待的官員，將郭吉羈押，轉移至北海（今俄國貝加爾湖）邊上居住，以此來羞辱漢使。然而烏維單於始終不敢再派兵到漢朝的邊境，襲擾漢朝的百姓，隻是在荒漠中休養士兵，飼養馬匹，訓練騎射，並且多次派出使者，向漢朝示好，請求和親。
武帝派王烏等人出使匈奴，以探聽虛實。匈奴的法律，漢使不除去符節，不以墨色將麵龐塗黑，不能進入單於的穹廬。王烏，是北地郡人，熟悉匈奴的風俗，除去符節，將麵龐塗黑，進入烏維單於的穹廬。烏維單於看到後很高興，假意對王烏說：“我願意將太子送往漢朝充當人質，以此來表明誠意，請求和親。”
漢使楊信出使匈奴。在當時（武帝元封三年，公元前108年），漢朝剛在東邊滅亡了濊貉、朝鮮，武帝將朝鮮故地設置為郡縣，在西邊又設置了酒泉郡，以阻斷匈奴與羌人的交通聯係。武帝還派出使者前往西域，鑿通了月氏國、大夏國，將翁主許配給烏孫王做王妃，以瓦解匈奴與西域小國的聯係。武帝繼續向北擴大地盤，直到眩雷，設置要塞，匈奴對此始終不敢提出異議。這一年，投降匈奴的翕侯趙信去世，朝廷負責戎狄的官員認為匈奴已經遭到削弱，可以讓他們臣服。武帝派出楊信作為使者出使匈奴，楊信為人剛強、倔強，在朝中一向不是重臣，單於對楊信也不是很尊重。單於召楊信進入穹廬王庭，楊信不肯除去符節，烏維單於隻好坐在穹廬外接見楊信。楊信對單於講：“既然單於要求和親，就應該把單於的太子送往漢朝當作人質。”烏維單於說：“這不是原來的約定。原來的約定，是漢朝送來翁主，以及陪送的嫁妝，絲帛、綿絮、食物等陪嫁物品，以這樣的方式和親，匈奴同時答應，不再襲擾漢朝的邊境。現在要改變原來的約定，要求把匈奴太子先送往漢朝作為人質，你們不要打這樣的主意。”匈奴的習慣，看到漢朝來的使者不是朝中貴人，而是儒生，就認為他們是以巧舌利口，前來與匈奴人說理辯論的，一定會折其話鋒；如果是年輕人，盛氣淩人，就一定要折其銳氣。漢軍每次打擊匈奴，匈奴也會以同樣的方式向漢朝邊郡報複。漢朝扣留匈奴的使者，匈奴就扣留漢朝的使者，而且數量要相等，才肯罷休。
楊信出使歸來，朝廷再次派出王烏等人出使匈奴。匈奴仍然是好言相待，也想得到漢朝廷送來的更多禮物，烏維單於對王烏講：“我想入漢朝麵見天子，當麵與天子結為兄弟。”王烏回來後報告，朝廷為單於在長安修建了專門的官邸。匈奴人說：“朝廷不派貴人出使匈奴，我不會向漢使講實話。”匈奴派到漢朝的貴人生了病，朝廷派太醫治病，服藥治療，但仍然不幸去世（武帝元封四年，公元前107年）。朝廷派出漢使路充國佩帶二千石印綬出使匈奴，同時送去匈奴使者的屍體，送去的禮物價值數千金。單於認為這是漢人蓄意殺害了他們的使者，於是扣押路充國。烏維單於幾次許諾的話，隻是對王烏的空頭許諾，毫無誠意，也不想把太子送往漢朝作為人質。接下來匈奴多次派兵，繼續襲擊漢朝邊境。朝廷再次任命郭昌為拔胡將軍，與浞野侯趙破奴一起，在朔方郡以東駐紮，防備匈奴的入侵。
烏維單於在位十年後去世，兒子詹師廬繼位。詹師廬即位時，年齡很小，號稱兒單於。這一年，是武帝元封六年（公元前105年）。這以後，單於派出匈奴騎兵多次入侵漢朝邊郡，東部的匈奴騎兵直達雲中郡，西部的騎兵直達酒泉郡、敦煌郡。
兒單於繼位後，漢朝派出兩批使者，一批吊唁單於，一批吊唁右賢王，想趁此機會離間匈奴內部。使者到了匈奴，匈奴將兩批使者全部送往兒單於那裏。兒單於發怒，將兩批漢使全部扣押。漢朝派往匈奴的使者前後有十幾批遭到扣押，匈奴的使者來，漢朝也同樣扣押。
這一年（太初元年，公元前104年），武帝派貳師將軍出兵西域，征討大宛國。武帝詔令因杅將軍公孫敖修築受降城。當年冬天，匈奴遭遇大雨雪，牲畜凍死、餓死的很多，兒單於年輕，喜歡殺人，國中人惶恐不安。左大都尉要殺兒單於，派人告訴漢朝，說：“我要殺單於，投降漢朝，漢朝距離太遠，朝廷是否能夠派出重兵來接應我，我好動手。”朝廷最初聽信了此話，即派出軍隊修築了受降城，以便接應投降的匈奴。
第二年（太初二年，公元前103年）春天，朝廷派出浞野侯趙破奴，率領兩萬騎兵從朔方郡出兵，向北前進兩千餘裏，按照約定如期抵達浚稽山，然後返回。浞野侯抵達約定地點後，左大都尉遂起兵造反，被兒單於查覺，遭到殺害，兒單於隨即發兵追趕浞野侯。浞野侯斬殺捕獲數千匈奴人。且戰且退，距離受降城還有四百餘裏，八萬匈奴騎兵追趕上來，將趙破奴團團圍困。浞野侯半夜裏出來找水，被匈奴人生擒，而後匈奴向漢軍發起進攻。漢軍將領擔心丟失主將，返回後會被問罪殺頭，因此不願意歸漢，彷徨間被匈奴人消滅。兒單於看到戰果大喜，遂揮師前進，圍攻受降城，最終沒有攻下來，隻好在邊境騷擾一番返回。第二年，兒單於想親自率軍再次進攻受降城，還沒有抵達，病死。
兒單於在位三年去世，兒子更小，匈奴就立了兒單於的叔父烏維單於的弟弟右賢王句黎湖為單於。這一年，是武帝太初三年（公元前102年）。
句黎湖單於繼位之後，漢朝派出使者光祿勳徐自為，從五原郡出塞數百裏，最遠前進了一千裏，修築堡壘亭障，一直修到盧胸，武帝派出遊擊將軍韓說、長平侯衛伉在附近駐守，派出強弩都尉路博德在居延澤北部修築遮虜障。
當年秋天，匈奴大舉入侵雲中郡、定襄郡、五原郡、朔方郡，殺害擄掠數幹人，打敗幾位二千石官員，而後從容離去，撤軍時拆毀了光祿勳徐自為修築的亭障。又派出右賢王深入到酒泉郡、張掖郡，殺害擄掠數千人。匈奴騎兵碰上漢將軍任文前來救援，將匈奴奪去的財物搶回，又將匈奴趕了回去。匈奴人此時聽說貳師將軍已經攻破大宛國，殺了大宛王，漢軍凱旋而歸，句黎湖單於就想在半路上截擊漢軍，但又猶豫不決，當年冬天，句黎湖單於病死。
句黎湖單於在位一年，病逝（太初四年，公元前101年），他的弟弟左大都尉且鞮侯繼位，成為新單於。
漢朝斬殺了大宛王，一時間威震域外各國，武帝想趁此機會困死匈奴，於是下詔，武帝說：“高皇帝留給朕平城的遺恨，高後時單於寫下悖逆的書信。春秋時齊襄公曾經一舉報了九世之仇，《春秋》中為此稱頌不已。”這一年，是武帝太初四年（公元前101年）。