曹操与吕布开始了沉闷的拉锯战，整整相持一百天。你打我一拳，我踢你一脚，看谁先累趴下。结果，两边都累趴下了。这一年蝗灾大起，庄稼被蝗虫给吃光了，粮食严重不足，无论是曹操一方还是吕布一方，都无法支撑这场旷日持久的战争。双方心照不宣，各自退兵。曹操退回鄄城，吕布退到乘氏。
不过吕布要倒霉点，到了乘氏，当地人在李进的领导下，开展武装起义，频频出击，吕布只得退往山阳。
吕布与曹操的兖州大战，引起了冀州牧袁绍的注意。
袁绍想浑水摸鱼，便派人前去对曹操说，你就那么几座孤城，粮食又不够，不如先把家眷迁往邺城（冀州州政府治地）。曹操与吕布打仗有一个顾虑，就是担心后方失守，家眷若是落到叛军手中，就非常被动了。袁绍提出这个建议，曹操感到也是个权宜之计，打算答应下来。
这时程昱站了出来，反对道：“将军难道害怕了吗？不然的话，考虑问题怎么这样肤浅呢？袁绍有吞并天下的雄心，只是智力平平，难以实现野心。将军您难道想成为他的手下吗？以您的龙虎之威，甘愿屈居人下，成为韩信、彭越之类的人吗？如今兖州虽然残破，好歹还有三座城池，能参加战斗的战士，也不下万人。以您的英明神武，再加上荀彧与我，齐心勠力，霸王之业定然可成。您还是多考虑考虑吧。”
把家眷送往邺城，等同送上人质，日后曹操势必要为袁绍所胁迫。
这么简单的道理，曹操当然看得出来。他之所以打算答应，是因为他确实累了。两征陶谦未果，又与吕布陷入旷日持久的战争，几个月过去了，情况居然没有改善。他回兖州时是三座城，现在仍是三座城，还陷入严重的粮荒之中。即使曹操是铁打的汉子，也终于累了。
所幸的是，程昱这么一鼓气，又燃起曹操的斗志。
天将降大任于是人也，必先苦其心志，劳其筋骨，饿其体肤。眼下的困难只是上天的考验罢了。曹操从沮丧中走出，对安置家属一事婉言谢绝了。
战争仍在继续，只是由于双方都缺粮，战争进行得断断续续。
总的来说，曹操稍占上风，陆续收复了一些地盘，兖州的局势大体上已经控制住了。
就在此时，传来陶谦病死的消息。
对于这个消息，曹操喜恨参半。喜的是仇人已死，恨的是自己未能手刃仇敌。其实我们在前面分析过，陶谦不太可能是杀害曹嵩的凶手，只是曹操才不管这些，老爹死在徐州兵刀下，陶谦就必须付出代价。现在仇人居然得以善终，曹操不免有几分失落。但他转念一想，陶谦死了也好，不如趁此时机，夺取徐州。
吕布、陈宫、张邈这些人都还没消灭，曹操却想夺取徐州，很显然还是复仇心态在作祟。既然不能手刃仇人，夺其地盘，也可解心头之恨吧。
荀彧毫不客气地批评了曹操的战略，他说：“以前汉高祖据有关中，光武帝据有河内，这是他们争夺天下的根本，进可攻，退可守，即便遭遇失败，最终还是成就大业。如今的兖州就是将军您的根本，必须要先巩固根本，再徐图发展。要是把吕布扔在一旁，大举东征徐州，若留守部队太多，东征兵力就不够；若留守部队太少，吕布乘虚而入，兖州不保。到时徐州攻不下来，试问将军何处安身呢？”
见曹操若有所思，荀彧继续说道：“虽然陶谦死了，徐州也并非那么容易就能攻下。自从上次被我们打败后，徐州将领们吸取教训，内外一心。现在徐州的麦子已收割完了，若我军东征，他们势必要坚壁清野，到时攻城攻不下，又抢不到物资，不用十天工夫，我们就不战而溃了。再说了，前两次讨伐徐州，我军实施严厉的惩罚（指屠杀一事），他们必定会血战到底，不肯投降。就算能攻破，也难以据为己有。要做出战略调整，必须遵循三个原则：其一，在大利益与小利益之间，要选择大利益；其二，在安全与危险之间，要选择安全；其三，在不动摇根本的前提下，可以采取权宜之计。攻打徐州的决定，没有一条符合以上三个原则，请将军慎重决定。”
这一番话，令曹操非常佩服。尽管曹操智慧超群，也不可能在所有问题上的见解都高人一等，兼听则明，否则就算天纵英明，也只会裹足不前。
荀彧的谨慎是对的，因为吕布正密谋组织一次大反扑。
连败几场后，吕布很郁闷，非但损兵折将，所占领的兖州地盘，又纷纷落入曹操手中。此时已是兴平二年（公元195年）夏季，庄稼成熟了，对于一直缺粮的曹操来说，总算有盼头了。曹操把军队都拉去收割小麦，只留下一千人留守兵营。吕布觑准机会，与陈宫纠集一万兵马，掩袭曹操。
曹操营寨只有一千人，吕布有一万人，兵力悬殊，这怎么打？好汉不吃眼前亏，曹操决定放弃营寨，往西撤退，同时紧急召回正在收割小麦的士兵。吕布轻而易举地攻占曹操营寨，一看人去寨空，岂肯放过，纵马直追。
在营寨西侧，有一道堤坝，略靠南面处有一片森林，这是打埋伏的理想之所。曹操当即把一半兵力埋伏于大堤与森林里，其他兵力在旷野背靠大堤，排开战斗队列，摆开与吕布决战的架势。
吕布的队伍杀了过来，曹操先派一支轻兵前往挑战，吕布正求之不得呢，当即大军压上，双方一阵混战。战斗正酣时，埋伏的曹军突然从大堤及森林处杀出，形成夹击之势，步兵攻其正面，骑兵攻其侧背。掉以轻心的吕布被打了个措手不及，曹操一路追击，一直追到吕布的营寨。
在逃跑途中，吕布的部队都被冲散了。吕布发现自己的兵力已所剩无多，精锐部队损失殆尽，再也无力与曹操一争雌雄，于今之计，只能逃跑了。
吕布连夜逃走，曹操拔取定陶，分兵略定诸县，把吕布势力驱逐出兖州。
经过一年的血战，曹操终于走出困境。
兖州之战，关乎曹操的生死存亡，一旦失败，他可能就成为群雄战争中的第一批出局者。但他凭借坚忍不拔的意志，在荀彧、程昱等人的协助下，终于完胜吕布，挫败了张邈、陈宫等人的阴谋。