霍去病初次征战，年方18，即率领800骁骑深入敌境数百里，把匈奴兵杀得四散逃窜，在这次战斗杀死了匈奴2028人，并且俘虏了单于的叔父罗姑比，斩杀了单于的祖父若侯产。霍去病因此开始展露锋芒，获得授予骠姚校尉，又以“勇冠三军”之意而受封予冠军侯。前121年，汉武帝任命霍去病为骠骑将军，发动了两次对匈奴的河西战役，大胜而回。霍去病率1万骠骑，6天中转战西域5国，越过了焉支山1000多里后重创匈奴，歼敌近9000人，俘获匈奴祭天金人。霍去病曾孤军深入敌后，到达祁连山，杀敌30000余，让匈奴的实力受到一次极大的打击。《西河旧事》记载当时的匈奴人唱道：“失我祁连山，使我六畜不蕃息，失我焉支山，使我妇女无颜色”。两次河西战役之后，汉朝完全控制了河西地区。后来他还出色地平息了匈奴降军的骚乱，匈奴从此退到了漠北一带。
