漢武帝為了找人代替韓安國的位置，就想到了閑居在家的李廣。李廣自從被贖為平民之後，回到家中，打獵喝酒，日子過得倒也逍遙自在。但他的心里一直掛念北方的戰局。漢武帝召用他的詔書一到，李廣馬上收拾行裝，到右北平擔任太守一職，接管韓安國曾經帶領的部隊。
李廣到了右北平，每天領兵巡邏邊境，匈奴不敢進犯。匈奴因為李廣行動快，箭法好，就送他一個十分好聽的外號，叫“飛將軍”。從此“飛將軍”李廣的美名留傳後世。
李廣在右北平太守任上，除了嚴密防守匈奴的入侵以外，也時常出去打獵散散心。右北平一帶有老虎出沒，時常出來傷害百姓。李廣就把老虎當做狩獵的主要對象。只要老虎遇到他，沒有一只能逃脫被射殺的命運。李廣藝高人膽大，一定要等老虎走到近前時才會拉弓放箭，一般一箭就能結果老虎的性命。
有一天，李廣晚上巡邏，天色昏暗無光，只有幾點星光點綴在黑色的天幕上，此時正是老虎出來覓食的時間。李廣一行人走到山腳，忽然看見草叢中伏著一只老虎。李廣急忙抽弓搭箭，手下人還沒有反應過來，李廣已經把箭使勁地射了出去。他的箭法能百步穿楊，所以很輕松地射中了目標。他手下人看老虎中箭之後一動也不動，就跑過去捉這只大獵物。他們走近前一看，不禁大吃一驚，原來李廣射中的是一塊虎形的大石頭。箭射入石頭中很深，這些手下人誰也拔不出來。大家對于李廣的神力感歎不已。
李廣感到很奇怪，他退回到原來的地方，又射了一箭。那枝箭與石頭相撞，進出了耀眼的火星，掉在旁邊，僅在那塊大石頭上多鑿了一個小洞。李廣又連射了兩箭，箭頭都折了，都沒再能射入到石頭里去。其實不必再射，有那一箭就夠了，大家已經親眼看到李廣的箭竟能射穿硬石頭。這個消息傳到匈奴那邊，他們摸摸自己的胸口，心想，李廣的箭連石頭都能射穿，何況我們的血肉之軀呢?他們越想越害怕，以後匈奴人就不敢再去騷擾李廣所管轄的那個右北平郡了。
漢武帝除了派李廣代替韓安國鎮守右北平之外，還把衛青派到北方。
衛青率領三萬人的大軍從雁門出發，將軍李息也帶領一支騎兵由代郡北上，與衛青的部隊互相呼應。漢武帝吸取了原來分兵太多，各部兵力不足，易被各個擊破的教訓，加強了這兩路的兵力。由于這兩路軍隊的力量比較集中，因而具有較強的突破能力。這兩支軍隊迅猛地向北推進，每戰告捷，共殲滅匈奴數千人。衛青又立戰功，更加得到漢武帝的寵信。
衛青和李息得勝還朝沒幾天，漢武帝又讓他們再登征途。這已是元朔二年(公元前127年)的春天了，匈奴兵再次攻入上谷和漁陽地區，殺掠吏民一千多人，騷擾不斷。漢武帝馬上讓衛青和李息重整戰袍，發動了第四次反擊。
這一次漢武帝改變了策略。以前幾次都直奔向匈奴騷擾的地區，趕走入侵者。往往漢軍占有優勢時，匈奴軍隊就會迅速撤走，因而總是沒有多大的戰果。甚至有時漢軍小股力量落入匈奴大集團武裝的包圍之中，反而被匈奴人利用優勢兵力殺得大敗。漢武帝吸取了前幾次出兵的教訓，在此基礎上制定了一套聲東擊西的策略。
這次入侵的匈奴集中攻擊漢朝東北部的邊郡漁陽和上谷。匈奴人集中優勢兵力想給救援的漢軍以迎頭痛擊。衛青就作出偽裝，讓部隊向東北方向推進。到了北部時，兵鋒卻突然西指，揮兵長驅直入攻擊匈奴西部沒有防禦准備的高闕(今內蒙古陰山西長城口)和隴西，匈奴在東部，遇到了漢朝漁陽郡和上谷郡兩地軍吏的頑強抵抗，主力都集中攻擊這兩個地區，而匈奴人決沒有料到漢朝會不解漁陽和上谷之圍，反而撲向他們西部防禦空虛地帶，一時驚得天旋地轉。
衛青和李息領兵直搗高闕，以優勢的兵力打得匈奴人大敗而逃。漢兵又沿黃河南下隴西(今甘肅臨洮南)，由北向南迂回地攻擊寄牧于河南地(今內蒙古河套以南)的匈奴。匈奴人沒有想到漢軍會從北面殺過來，大敗潰散。衛青和李息揮兵一頓砍殺，匈奴兵死傷五千余人。