其夏，去病与合骑侯敖俱出北地，异道。博望侯张赛、郎中令李广俱出右北平，异道……去病出北地，遂深入，合骑侯失道，不相得。去病至祁连山，捕首虏甚多。
——《汉书·卫青霍去病传》
汉军在取得第一次“河西之战”的胜利后，为了持续打击匈奴休屠王和浑邪王，彻底消灭盘踞于河西的匈奴势力，在霍去病所率余部短暂休整之后，汉武帝于同年夏再度调派给霍去病数万骑兵，发动了第二次河西之战。
元狩二年（前121年）夏，霍去病与合骑侯公孙敖率领数万骑兵抵达北地郡，在制定具体行动计划时，霍去病认为，匈奴在经历了第一次“河西之战”的惨败之后，必然有所防范，第一次所走的路线已经无法使用，因而大胆决定绕道西北，从侧后方对浑邪王和休屠王发动突然袭击。
由于这条路线不仅绕道极远，而且途中需要穿过多个沙漠戈壁，途中可用的补给点极少，根本无法负担这数万大军。为此，霍去病决定兵分两路，由自己率一万余骑先行，公孙敖则率领其余军队半个月后再继续出发，双方约定在弱水下游的居延海会合。
与此同时，汉武帝又命博望侯张骞、郎中令李广率万余骑出右北平郡，攻击匈奴左贤王部，牵制伊稚斜单于的兵力，防止其出兵救援河西。
西汉在拿下西套平原之后，便恢复了当时秦始皇设置在
西套平原北部、黄河左岸的浑怀障，并于此屯田驻军，充实边塞。霍去病率兵在浑怀障短暂休整之后，便就此踏上了长途跋涉之旅。
霍去病率兵自北地郡西套平原出发，向北绕过贺兰山后又折向西方，然后向西横穿黄沙遍地的乌兰布和沙漠，继而自雅布赖山与狼山之间穿过，再沿着巴丹吉林沙漠北部边缘的大戈壁一路向西，前后历经十余日的长途跋涉，终于来到了居延泽。
霍去病一路行来，虽然深入匈奴腹地，但由于右贤王北迁之后，漠南地区匈奴部落数量急剧减少，再加上所到之处皆是人烟罕至的戈壁沙漠，反倒不用担心被匈奴人所察觉。
而就在霍去病率兵于居延泽休整，等待公孙敖率领的后续部队时，公孙敖所统率的大军却迷路了。霍去病虽然一路艰险，但好在军中有不少匈奴降卒和内附的匈奴人，随军将领高不识更是内附的匈奴王，赵破奴亦有流浪匈奴的经历，他们对这一带本就比较熟悉，一路行来倒也轻车熟路。
然而，公孙敖可就没有这么好的运气了，他所统率的骑兵全部来自于内地，何曾到过这里，军中又没有匈奴降卒，由于缺乏向导，在满眼尽是黄沙和砾石的沙漠戈壁之中，根本没有道路可循，结果出发数日后便将自己给搞丢了。
霍去病在居延泽一连等了十余天，却哪里有公孙敖所率大军的影子，眼看大军随身携带的粮草就要耗尽，霍去病一连数日派出骑兵沿来路探出数十里，却仍然不见后续大军的任何踪迹。
虽说凭借居延泽一带的饮水和草场，战马根本不缺补给，但一万多骑兵只喝水不吃东西哪里能行，眼见公孙敖统率的后续军队迟迟不到，霍去病知道，如果继续等下去，自己这一万多人恐怕就要饿的站不起身了，哪里还有战斗力。
在霍去病看来，与其在此坐以待毙，倒不如趁着军队还有战斗力，去匈奴人那里讨要一些吃的。于是，他果断率军出发，以鹰击将军赵破奴为先锋，率军沿弱水逆流南下，寻找匈奴部落。
这次，不幸第一个撞在霍去病枪口上的是游牧于弱水下游一带的稽且部落。
稽且部作为浑邪王麾下部落，不仅自身实力较强，而且与浑邪王关系极为亲密，因而才得以在弱水下游一带放牧。按理来说，弱水下游乃是较为安全的所在，虽说以北有居延泽，但居延泽以北便是广阔的巴丹吉林沙漠以及一望无际的大戈壁，以东则是流沙遍地的腾格里沙漠，根本不会有部落跑到这里来。虽说数月以前浑邪王刚刚遭遇惨败，但当时战斗却发生在弱水上游，因而他怎么也料不到，竟然会有汉朝军队穿过沙漠戈壁，从弱水下游的居延泽方向来袭击自己。
稽且部虽然不小，然而在没有战事的情况下，大部分部众都忙着自己的生计，留守本部的兵马并不算太多。
赵破奴率领的汉军先锋，在发现这个还是一片祥和的部落后，根本不给对方准备的时间，在命人传讯后部主力之后，便当先率领先锋部队扑了上去。
毫无准备的稽且部牧民根本来不及抵抗，便眼睁睁的看着汉军骑兵凶神恶煞一般扑向了部落最中心的王帐。听到喊杀声的稽且王，慌乱之下连忙命人召集兵马，自己则亲率留守部队上前迎战阻敌。然而，赵破奴岂会给他们整顿兵马的机会，一马当先的他率军横冲直撞，瞬间便突破了仓促迎战的匈奴骑兵。
溃不成军的匈奴兵马瞬间便失去了抵抗能力，勇武非常的稽且王亦在片刻之后力竭被擒，赵破奴遂以稽且王的性命相要挟，要求稽且部众放弃抵抗。结果好不容易反应过来的稽且部众，刚刚拿起武器、跨上战马，还没来得及完成集结，便发现稽且王已经落入了敌人手中，无奈之下只得放下武器投降。
本小章还未完，请点击下一页继续阅读后面精彩内容！
击破稽且部后，深知兵贵神速的霍去病，只是率部简单补充了饮水和食物，便命人押解着稽且王为向导，继续率军南下，突袭浑邪王本部。
在稽且王的指引下，霍去病率领大军小心绕过弱水流域的其他匈奴部落，自侧背方向突然对弱水上游的浑邪本部发动了突袭。经历了前次的惨败之后，浑邪王虽然不敢再轻敌，但他的防御重点却在东方，哪里能想到汉军会从自己的背后攻来。结果仓促迎战的浑邪王再度遭遇惨败，被斩一万余人，余部大部溃散，包括相国、都尉等人在内的大量贵族被俘。
击溃浑邪王之后，霍去病又继续率军西进，进攻单桓王、酋涂王两部。这两部虽然此前并未与汉军有过交手，但事后对于战况却多有耳闻，那些战败的部落民众除了吹嘘汉军如何勇猛无敌之外，还透露出一个极为重要的消息，那便是汉军并不杀降，亦不屠戮部众、大肆掠夺，在获取补给之后便会离去。
因此，当得知实力强大的浑邪王都兵败之后，单桓王、酋涂王哪里还敢抵抗，干脆选择了投降。
在将祁连山与合黎山之间弱水上游地区的匈奴各部横扫一空后，霍去病这才率兵东返，不过却并非撤退，而是自龙首山北麓向东，直扑狐奴水（今石羊河）流域的休屠王本部。
与浑邪王一样，休屠王在经历了前次大战之后，虽然已经有所警觉，但却将防御重心放在了东部，根本没想到汉军会从浑邪王统辖的西部区域杀来，结果也被打了个措手不及。一番大战下来，仓促迎战的休屠王亦惨遭大败，被斩一万余众。
在连破浑邪王和休屠王两部之后，霍去病这才率军押送着大量俘虏，渡过狐奴水，又翻过乌鞘岭，沿着第一次“河西之战”的路线，返回了陇西郡。
回军途中，霍去病还遇到了留居南山一带的一支小月氏部落。