自貳師將軍李廣利部全軍覆沒后，漢廷折了一位大將及數萬士卒，可謂損失慘重，因而此后武帝不復出兵攻打匈奴。而漢兵深入窮追二十余年，弄得匈奴的牲畜都不安生了，其人則更是疲憊、苦楚，是以自單于以下都希望能與漢廷和親，重新開始以前友好相處的歲月。
后元二年（公元前87年），一代雄主漢武大帝病逝。三年之后，也就是始元二年（公元前85年），狐鹿姑單于欲求和親，卻不巧剛好生了大病，不久便去世了。單于有一個異母弟弟，任職左大都尉，素有賢名，匈奴人都很欽佩他。單于的母親怕單于不立兒子而改立左大都尉，便私自派人去刺殺左大都尉。得虧左大都尉賢明，有人樂意為他通風報信，這才逃過一劫。此后左大都尉與單于及其母親結怨，再也不肯踏足單于庭一步。當然，在狐鹿姑單于的心里，左大都尉也被踢出了繼承人的行列。病逝之前，單于對匈奴的貴人們說：“我的兒子還太小，不能治理國家，可立我的弟弟右谷蠡王為單于。”待單于病逝后，衛律等人與顓渠閼氏合謀，隱瞞單于的死訊，詐傳單于的命令，與匈奴貴人們飲酒盟誓，改立顓渠閼氏的兒子左谷蠡王為壺衍韃單于。
壺衍鞮單于繼位后，委婉地暗示漢使，想與漢廷和親。這時，匈奴左賢王、右谷蠡王因未能繼承單于之位，心懷怨恨，便聯合起來，想率眾南下歸漢，但又怕路途過于遙遠，以致不能成功。于是他們脅迫盧屠王，商議一起西去投降烏孫，然后再圖謀攻擊壺衍鞮單于。盧屠王惶恐，嘴上答應得好好的，一轉身就把二人告了。壺衍鞮單于派人前來查問。右谷蠡王不承認，說沒有這回事，又說是盧屠王有意誣告他們兩人。于是單于處罰了盧屠王，但大多數匈奴人都認為他很冤枉。其實，壺衍鞮單于也猜得八九不離十，也很想處罰左賢王和右谷蠡王，但轉念一想，自己確實得位不正，也難怪他們有二心，為避免引起更大的分裂，以致匈奴實力受損，那么，就只能委屈一下盧屠王了。
此后，左賢王和右谷蠡王各居其所，都再也不肯到單于的龍城去了。
二年后的秋天，匈奴人侵入代郡，攻殺了都尉。此時的漢廷，在昭帝的治理下，正逐步走上正軌。而壺衍鞮單于年少，又繼位不久，他的母親行為不正，國內人心渙散，因而常害怕漢軍乘機前來攻襲。于是衛律為單于謀道：“挖鑿水井，修筑城池，蓋高樓用來藏儲谷物，我們的人與歸順匈奴的中原人一起守衛。如此則漢軍即使攻來，對我們也無可奈何。”單于點頭同意了。鑿井數百，伐木數千，正干得熱火朝天的時候，有人潑冷水說：匈奴人不擅長固守城池，若筑城固守，則無異于將糧食饋送給漢軍。衛律來自漢廷，知曉雙方的長處與短處，想了一下，覺得有道理，便停止了筑城行動。
壺衍鞮單于便問他還有何方略。衛律回答說，若不想與漢軍抗拒，那不如與漢廷交好，為以示誠意，可放歸不肯投降的漢使如蘇武、馬宏等人。這馬宏以前與副光祿大夫王忠一起出使西域，途中為匈奴人所攔截；王忠戰死了，馬宏被活捉，也不肯投降。
單于聽了衛律的建議后，欣然應允，便放這二人回去，想讓他們帶去匈奴和解的好意。這一年乃始元六年（公元前81年），單于繼位已三年了。
元鳳元年（公元前80年），找書苑 ｗwｗ.zｈａoshuyuan.coｍ 壺衍鞮單于派發左右部二萬騎，編為四隊，一起入侵漢境。昭帝令漢軍還擊。雙方又展開大戰。漢軍邊追邊擊，斬首獲虜達九千人，并活捉了甌脫王，己方卻沒有什么大的損失。壺衍鞮單于見甌脫王被俘，擔心漢軍會讓他引路前來攻襲匈奴，便率部向西北遠遠地遷徙，不敢令人隨水草而南下放牧，并派人在甌脫駐防。
元鳳二年，單于派九千騎屯戍受降城，以防備漢軍；又令人在北邊的余吾水上架橋，使人可以輕易過河，以預備在危急的時候可以順利撤退。這個時候，衛律已經逝世。他活著的時候，常言和親之利，匈奴人不信；待其逝世后，匈奴軍隊多次被圍困，國家更加貧窮，因而越來越多的人開始相信衛律所說的話。
單于的弟弟左谷蠡王就是其中一個，他憶思衛律之言，覺得很有道理，便想與漢廷和親，卻又擔心漢廷不肯，所以自己不愿主動提出，以免丟失面子，但經常讓身邊的人旁敲側擊，與漢使談論此事。此后左谷蠡王部對漢廷邊境的侵擾更少了，對待漢使也更禮遇優厚，他想以此慢慢地改善與漢廷的關系，最終達到和親的目的。漢廷感受到了他的善意，便對其采取懷柔之策。可惜天不假年，不久，左谷蠡王便去世了。
次年，壺衍鞮單于令犁汗王偷偷探邊。犁汗王回來報告說：駐守在酒泉、張掖的漢軍更薄弱了，如果派軍隊去攻擊，也許有希望收復這些地方。單于認同他的看法，便令人速做準備。可巧漢軍得到了匈奴降者，從其口中知道了單于的計謀，于是昭帝令邊軍嚴加戒備。
