呼韩邪是虚闾权渠单于的儿子。虚闾权渠单于死后,未能被立为单于,逃至妻父乌禅幕处。汉宣帝神爵四年,被乌禅幕及左地贵人等拥立,发兵击败握衍朐鞮单于。五凤二年秋,击败右地屠耆单于。四年夏,被其兄郅支单于击败,引众南近塞,遣子入汉,对汉称臣,欲借汉朝之力保全自己。甘露三年(正月,朝见宣帝于甘泉宫受特殊礼遇。数年后,鉴于郅支单于西迁,内患已消,力量渐强,乃率部重归漠北。竟宁元年正月,第三次朝汉,自请为婿,娶汉宫女王嫱为妻,号为宁胡阏氏。此后,汉与匈奴40余年无战事。