2年，以讨伐董卓为目的的酸枣会盟的升级版——关东义军联盟正式解体，随着曹操在兖州不断壮大的发展，张邈张超兄弟两个感觉到了前所未有的压力，他们需要寻找更为强大的外援力量。而拥有超高人气的汉室宗亲刘虞则成为最好的人选。于是张超命臧洪领兵北上去联络刘虞，以商量讨伐董卓的下一步计划为名，实际上却是想寻找一个可以制约曹操的强大力量。不过这一计划很快就宣告破产，因为当臧洪走到河间郡的时候，幽州牧刘虞已经被公孙瓒所杀，而袁绍也已经占据了冀州。为了抢夺青冀幽三州的控制权，公孙瓒与袁绍之间的争霸战争正式拉开。而臧洪也被袁绍扣留在了河间郡。

    袁绍早就听闻过臧洪的大名，对臧洪也很看中。而臧洪为了完成张邈张超所赋予的寻找外援力量的使命，将目标锁定在了袁绍身上，倾心与之周旋，并且得到袁绍的初步信任，被袁绍任命为青州刺史。臧洪到任两年，尽心竭力治理青州，终于将青州的黄巾盗贼赶出了其治下。臧洪的才干也得到袁绍的进一步赏识。

    公元194年，陈宫张邈背叛曹操，迎吕布占领东郡为兖州牧。远在徐州攻打陶谦的曹操不得不回撤以夺回自己的老巢。为了扭转危局，精干的曹操向袁绍投诚求援，个人揣测曹操会以平分兖州为诱饵，以获得喘息的机会。这种揣测在臧洪的身上也得到了印证，《三国志》明确记载，当曹操将东郡收复以后，臧洪就被袁绍“徙为东郡太守，治东武阳”。袁绍的这种做法首先考虑的应该是臧洪的能力以及在兖州的威望，可是让他始料不及的是臧洪本身仗义为先的性格和他对张超知遇之恩的感激之情。

    公元195年（兴平二年）八月，曹操在数败吕布，并且将其赶出兖州以后，兵围雍丘向张邈张超的老巢发起总攻。消息很快传到臧洪的耳中，他焦急万分光着脚哭泣着，一面整顿本部兵马打算去救雍丘之围，一面请求袁绍出兵相助。可是袁绍非但不发一兵一卒，还下令削夺臧洪的兵权禁锢他的行动，不许他去救雍丘。三个月后，雍丘城破，张超自刎，张氏阖族尽灭。

    臧洪由此痛恨袁绍，趁机发动兵变，掌握东郡的控制权，与袁绍分庭抗礼。袁绍亲自带兵攻打东郡治所东武阳城，却遭到臧洪及其士卒的的顽强抵抗，经过一年的时间也没能打下城池。城中没有粮了他们就以老鼠为食，老鼠吃完了就吃兵器上皮革，臧洪甚至将自己的爱妾杀了以分赐将士们充饥。臧洪知道外无救兵，自己死期不远，他对士卒百姓说道“袁氏无道，所图不轨，且不救洪郡将。洪於大义，不得不死，今诸君无事空与此祸！可先城未败，将妻子出”。可是竟没有一个人愿意舍臧洪而去，他们说道“明府与袁氏本无怨隙，今为本朝郡将之故，自致残困，吏民何忍当舍明府去也！”于是城中百姓士卒无论男女七八千人相枕而死。

    东武阳城终于被袁绍攻破，袁绍用帐幔围起一块场地，大会诸将，想要另臧洪屈服。他对臧洪说道“臧洪，何相负若此！今日服未？”臧洪坐在地上怒目而视袁绍，说道“诸袁事汉，四世五公，可谓受恩。今王室衰弱，无扶翼之意，欲因际会，希冀非望，多杀忠良以立奸威。洪亲见呼张陈留为兄，则洪府君亦宜为弟，同共戮力，为国除害，何为拥众观人屠灭！惜洪力劣，不能推刃为天下报仇，何谓服乎！”袁绍知道臧洪“终不为己用，乃杀之”

    臧洪被推出行刑的时候，一个一直追随臧洪的东郡郡丞，也是臧洪的同乡，叫陈容的书生，起身指责袁绍说道“将军举大事，欲为天下除暴，而专先诛忠义，岂合天意！臧洪发举为郡将，奈何杀之！”“夫仁义岂有常，蹈之则君子，背之则小人。今日宁与臧洪同日而死，不与将军同日而生！”袁绍惭愧不已，由是生怨恨，将陈容杀死。当时在场的袁绍手下无不为之动容，私下感慨说道“如何一日杀二烈士！”