元狩二年三月，丞相公孙弘去世，御史大夫李蔡为丞相，廷尉张汤为御史大夫。

武帝以霍去病为骠骑将军，率骑兵一万，从陇西出发击匈奴。霍去病率军一路猛进，六天中转战匈奴五部落，在皋兰山与匈奴卢侯王、折兰王硬战。此战，霍去病险胜，一万精兵仅余三千；而匈奴损失更大：卢侯王、折兰王都战死，浑邪王子及相国、都尉被俘，阵亡八千九百余人，匈奴休屠王祭天金人被汉军缴获。诏加霍去病食邑二千户。时年，霍去病十九岁。

二年夏，武帝决定乘机收复河西，命霍去病与合骑侯公孙敖各率万骑两路出北地郡；卫尉博望侯张骞、郎中令李广两路出右北平。李广将四千骑先行，张骞率万余骑继后。李广深入匈奴腹地数百里，被匈奴左贤王四万骑兵包围。李广见军有怯意，令儿子李敢出战。李敢率数十骑冲入敌阵，左出右入，如过无人之境，回来报告说：“胡虏易击！”军心乃安。李广使军士列环形阵，与敌对峙。胡兵不能接近，改用箭攻，矢下如雨。汉军与之对射，箭竟用尽。将士不断阵亡。李广令军士持弓不发，自以大黄弓射匈奴裨将，一连射杀数人，胡兵才退去。这时候天色已晚，军士都面无人色。李广意气自如，军士服其勇气。

第二日，胡兵又来，复力战，李广军死伤过半，所杀也相当。恰在这时，张骞大军赶到，胡兵撤围而去。汉军疲惫，不追而回。

骠骑将军霍去病深入匈奴领地二千余里，公孙敖部老马迷途，未能与霍去病会合。霍去病独率部兵跨越居延海，经过小月氏，抵达祁连山，生擒单桓、酋涂两王，斩首三万二百级，俘获小王七十余人，迫使其相国、都尉率部下二千五百人投降。武帝闻报大喜，加封霍去病食邑五千户，部将鹰击司马赵破奴、校尉高不识、仆多三人为侯。公孙敖、张骞二人贻误军机，法当斩，赎为庶人。李广功过相抵，无赏。

经此一役，匈奴不得不退到焉支山以北。汉军收复河西平原。匈奴因有歌曰：“亡我祁连山，使我六畜不息蕃；失我焉支山，使我妇女无颜色。”

由此，霍去病日以亲贵，可与大将军卫青相媲美。武帝更赐特权：每次出征，将士、武器任由挑选。但他也确实能打仗，每战必胜，似有天助。霍去病每次出战都冲锋在前，那些老将常常被他抛在后面很远而不能建功。

河西两役，匈奴丢兵失地，损失惨重，单于大怒，欲召杀浑邪、休屠二王。消息走漏，二王惧，筹谋降汉，使人在边境拦截汉人，说明意图，求请报告汉朝皇帝。此时，大行令李息正在黄河边修筑城池，获知浑邪王意图，不敢怠慢，连忙派人坐传车飞报朝廷。武帝防其以诈降袭边，令骠骑将军霍去病将兵往迎。休屠王中途后悔。浑邪王怕他坏事，杀休屠王并收其军，单等汉使来接。霍去病渡过黄河，与浑邪王军队遥遥相望。浑邪王手下将士看见汉军，怕遭诛灭，相率逃去。霍去病见情势危急，率数名亲兵驰入匈奴营中，直面浑邪王，令他与自己联手，诛杀哗变者八千余人，其余才得安定。于是使人乘传车遣送浑邪王到长安，尽率其部四万余人，号称十万，东渡黄河。浑邪王既到长安，武帝赐钱数十万，封漯阴侯，食邑万户；其裨王呼毒尼等四人皆为列侯。为表彰霍去病河西受降之功，加封食邑一千七百户。

武帝把所降胡兵分别迁往沿边五郡旧塞以外、黄河以南安置，保留其原有风俗习惯，设立五属国，并徙内地贫民充实之。从此，金城河西岸，傍南山直到盐泽一带，不再有匈奴军队，偶尔有匈奴探马来窥，也很稀少。

休屠王太子日磾（di）与母阏氏、弟伦随浑邪王降汉，被罚为官奴，派到黄门养马。一次，武帝游乐宴会毕，检阅马匹，身边有很多后宫美女跟随。当时有数十人牵马从殿前过，诸美女无不顾视；至日磾牵马经过，众美女竟都脸红不敢正视。武帝好生奇怪，审视其人，身长八尺有余，容貌庄丽英俊，因召来询问。日磾奏明身世。武帝大加青睐，当即赐汤沐、衣冠，任为马监，后步步升至侍中、驸马都尉（驸，即副。驸马都尉，掌管皇帝副车。皇帝出行时乘坐的车驾为正车，而其他随行的马车均为副车。正车由奉车都尉掌管，副车由驸马都尉掌管。到三国时期，魏国的何晏，以帝婿身份授官驸马都尉。以后历朝有很多皇帝女婿被授为驸马都尉，不过，后来驸马都尉并不掌管副车，而成了一种荣誉称号。久而久之，驸马一词便成了皇帝女婿的代名词）、光禄大夫。日磾既受皇恩，未尝有过失，武帝更加亲信，赏赐先后累千金，出则参乘，入则侍身。贵戚私下抱怨说：“陛下得一胡儿，犹得宝贝。”武帝不以为意，因为休屠王曾作金人祭天，故赐日磾姓金。允下文再表。

汉朝既得浑邪王辖地，陇西、北地、上郡一带胡患遂减，武帝下诏减去三郡戍卒之半，以减轻天下徭役负担。

元狩三年秋，山东水灾，民多饥困。武帝遣使赈灾，倾郡县府库以济灾民，并贷豪富之家，仍然不足；遂迁部分灾民至秦中，共计七十余万口。所需衣食、产业，由安置地官府供给。朝廷遣使分区监督，一路冠盖相望，络绎不绝，费用不可胜数。

四年春，为彻底消灭匈奴有生力量，汉朝发起规模空前的“漠北大战”。武帝说：“赵信常为单于画计，以为汉兵不能过大漠，即过之，亦不能久留。朕偏不信。”于是，精选用粟米饲养之战马十万匹，令大将军卫青、骠骑将军霍去病各率骑兵五万击匈奴。跟随其后为军队驮运私人行装之马达四万余匹，步兵和运输军用物资者不下五十万。大队人马浩浩荡荡向漠北挺进。

霍去病负责正面迎战单于主力，那些敢于深入敌阵力战者都充入其军。霍去病计划从定襄出发，后朝廷从俘虏口中得知单于居东，改令霍去病出代郡，大将军卫青出定襄。郎中令李广主动请求出战，武帝以为李广已老，不准。李广多次请求，武帝才允准，出任前将军；太仆公孙贺为左将军；主爵都尉赵食其为右将军；平阳侯曹襄为后将军。都归大将军统辖。赵信对单于说：“汉兵既度漠，人马疲乏，匈奴可坐收战果也。”因将粮草辎重再次向北转移，率精兵在漠北整装以待。

大将军出塞后，获知单于在西，遂亲自将兵迎战：大将军与左将军公孙贺正面出击；前将军李广和右将军赵食其向东迂回侧击；后将军曹襄殿后。李广因东路绕道，路途远而水草少，向大将军请示说：“臣部原为前将军，今大将军改令臣出东道，臣自结发以来与匈奴战，今当正面迎战单于军，臣愿居前，先战死于匈奴。”大将军曾受武帝私下告诫：“李将军年老，运气又不济，毋令正面挡单于，免至坏事。”又因公孙敖刚失侯爵，欲使正面迎战单于，以将功折罪，故把李广调东路。李广坚持要正面迎敌。大将军不听。李广不谢而起，意甚愠怒。

大将军出塞千余里，越过沙漠，见单于兵列阵待着。这时李广、赵食其军未到，因将铁甲兵车环绕一周结成阵营，而纵五千骑出战。单于纵一万骑迎战。会太阳西沉，大风骤起，沙砾击面，两军不能相见，大将军乘机发生力军从左右两翼包抄单于。单于见势不妙，即乘六骡车，在数百壮骑保护下，突围北窜。黄昏，匈奴与汉军混杀一阵，不能坚持，四散逃窜。卫青从俘虏口中得知，单于日落前已遁去，因发轻骑兵连夜追赶。至天明，追二百余里，斩获一万九千人，不得单于。前面出现匈奴城池，进去一看，空无一人，原来是赵信部军营。于是取食城中积粟，逗留一日，烧毁余粟和城池，凯旋而归。

骠骑将军霍去病从代郡、右北平出发，出塞二千余里，穿过大沙漠，与匈奴左路军相遇，一番激战，以损失一万五千兵的代价，斩获匈奴七万零四百四十三人，活捉屯头等三王，以及将军、相国、当户、都尉八十三人。为纪功，封于狼居胥山，禅于姑衍山，饮马翰海（今俄罗斯贝加尔湖）。

此战，霍去病加封食邑五千八百户；部下右北平太守路博德等四人都为列侯；从骠侯赵破奴等二人增加封邑；李广子校尉李敢力战夺得左贤王战鼓、军旗，杀敌众多，被封关内侯，食邑二百户；军吏升官、受赏者不计其数。大将军卫青战功不大，不增加封邑，部下军吏都无封侯。

单于遁走后，其右谷蠡（li）王以为单于已死，自立为单于。十余日后，单于回来，右谷蠡王自去单于称号。