后来吕布提及迎献帝之事，并拿出献帝信物时，袁术却只是以时候未到一味拖延。吕布自知袁术无迎驾之心，故自苦闷。而自提出迎驾一事，袁术连粮草都不供应了。
吕布此时虎落平阳，知道再在此处无益，便带兵去投奔袁绍。
途经河内，一行人马正行间，突间前边闪出一队人马，为首那人一脸凶相，吕布暗思：何人敢阻我吕布的去路？
吕布止住马头，抬眼细看，只见这群人身着官服，显是宦海中人。吕布的目光游移了片刻，最后将目光落在领头那一脸凶相的中年男子身上，这男子相貌平平，虽是一脸凶相，却别有一番豪气，颇有些江湖气息，远远见到吕布，双手一拱：“敢问兄台可是并州吕奉先吕温侯？”
吕布闻言忙还礼道：“在下正是吕布！”
那人大喜，忙下马来道：“小弟恭候多时，请温侯先到小弟的河内一坐。”
吕布闻言：“你是河内太守张杨？”
张杨点头笑道：“正是在下，早闻温侯威名，故而特意在此等侯，一览将军风采。”
吕布在这盘旋数日，与张杨相交甚欢，但他深知此行是要诛乱贼迎圣驾辅人皇，以张杨河内的兵马是根本不可能的，于是，逗留数日便去投奔袁绍。
袁绍自是感念他为民除害诛杀董卓，便收为已用，但此时的袁绍受郭图、许攸之辈怂恿，心中嗔念已起。
袁绍深知，吕布是守汉天神，必将成为自己的一大障碍，但眼下却可一用。眼下，冀州的黑山军正自做乱，这群乱匪人数众多，袁绍正自发愁，吕布来得确是时候。
袁绍自是大加款待吕布，并言若有乱臣贼子祸乱朝纲，平定冀州之后自当出兵讨伐不臣，吕布见袁绍如此说，为表示诚意，当下便率本部人马前去破黑山军，吕布这两千兵马均是并州精锐，与吕布出生入死，争战杀场多年，战斗力惊人，兵力虽少，但人少自有人少的好处，这两千人均是骑兵，机动性极大，做战经验又丰富，可谓神出鬼没，纵横冀州，黑山军无论多少人，只要碰到吕布这队人马，定然要付出惨痛的代价，黑山军不得不退出冀州境内，并与袁绍颇有默契的达成共识，也便不再侵扰冀州，袁绍也乐得黑山军去扰乱其他诸侯，自此平定冀州。虽然吕布破贼取得了巨大成功，但也付出了惨痛的代价，两千精锐死了大半，平了黑山军之后，仅剩了几十人。
可以说吕布这个人的确是难得的将才，尤其是对待普通士卒和武将，有着极大的吸引力，自破了黑山军，吕布在袁绍军中威望极高。
这日袁绍大宴吕布，文武分坐两旁，吕布自是坐在首席，觥筹交错间，但见吕布身旁敬酒之人极多，且多是武将，连那颜良、文丑亦是对吕布颇为敬佩。
袁绍看了一眼吕布，心生警兆，自思，此人若留在身边的确是后患无穷，但又一想，此人用之不能，弃之可惜，若被他人所用，则更是头痛，心中灵机一现，莫不如杀之以图后快，但转念一想吕布太厉害，若被其逃掉，自己岂不是永无宁日？