汉宣帝时，匈奴内乱，五单于争立，混战后，形成了呼韩邪单于与郅支单于拥兵争雄的局面。呼韩邪接受左伊秩訾“事汉则安，不事则危亡”的建议，力排众议，归附汉朝。甘露三年(公元前51年)，亲至长安朝拜汉宣帝。汉颁授“匈奴单于玺”，承认呼韩邪为匈奴最高首领。此后汉诛灭郅支单于，使呼韩邪单于统一匈奴。王莽代汉后，无故挑起兵端，汉与匈奴再次处于战争状态，匈奴屡次侵扰汉边郡。东汉光武帝建武二十二年(公元46年)，匈奴天灾人祸并行，发生内乱，呼韩邪单于孙右奥鞬日逐王比于建武二十四年被拥立为单于。以其祖父依汉得安，故袭称呼韩邪单于，率众到五原塞(今内蒙古包头西北)归附汉朝。