初平二年（191年）的秋天，以於毒、白繞、畦固爲首的黑山農民軍，開始向冀州的心臟鄴城推進，並有渡過黃河南攻兗州的動向。而這時青州的黃巾軍一百多萬人，因受到袁紹所委派的青州刺史臧洪的軍事壓力，也正分兩路向河北移動，有與河北的黑山軍會師之勢。

如果河北的黑山軍渡黃河而南，或青州的黃巾軍渡黃河而北，兩支數近百萬的大軍一旦會師，黃河中下游的力量對比就會引起急而深刻的變化。這樣，關東州郡儘管充滿內部矛盾還是要集中力量來對付農民軍。

袁紹一方面要用堵擊或攔截的方法來破壞農民軍兩路會師的計劃；一方面又想利用這一時機，把自己的勢力擴展到兗州，使青、兗、冀三州聯繫起來這樣，黃河中下游就全部受他的控制了。要完成這一任務，不得不借重曹操。

於是袁紹以東郡太守王肱不能抵抗黑山農民軍爲藉口，派曹操引兵進入東郡，圍攻黑山軍。在曹操剛一擊潰以白繞爲首的黑山軍於濮陽（今河南濮陽南）之後，袁紹就以盟主的資格，發表曹操擔任東郡太守的職位，袁紹此時滿以爲自己的勢力範圍從此可以擴大到兗州地區了。

經過對農民軍瘋狂地鎮壓和掃蕩以後，到了初平三年（192年）的春天，曹操才把黃河以南的黑山軍基本肅清。可是就在同年的夏天，青州的黃巾軍卻因渡河北上受阻，轉而把主力向兗州推進。

曹操

這一支農民軍的主力進入兗州以後，首先攻下了任城（今山東濟寧市東南），殺死任城相鄭遂；接着在東平（今山東東平）附近，擊潰了兗州主力軍兗州刺史劉岱的部隊，在陣上斬殺劉岱並繼續向壽張（今山東東平西南）方向移動。充州刺史劉岱陣亡，州中無主，濟北（國都盧，今山東長清南）相鮑信和兗州治中萬潛等和曹操取得聯絡，推曹操出任兗州牧。曹操接受兗州牧名義之後，即與鮑信聯軍堵擊農民軍於壽張東郊。經過晝夜苦戰，農民軍雖然陣斬鮑信，並幾乎擊垮曹操的軍隊，但農民軍亦因損失太重，不得不向濟北方向撤退。

曹操縱兵追擊，到了這一年的十二月，他終於把青州黃巾軍主力擊潰，收編降附男女百餘萬口，得降兵三十餘萬。曹操就從收編過來的黃巾軍中選拔精銳，來充實並擴大自己的隊伍，當時稱這支兵爲“青州兵”。這支青州兵以後在曹操轉戰中原的統一戰爭中曾起過很大的作用。

曹操剛把青州黃巾軍打敗，他在兗州的統治地位還來不及進一步鞏固。長安的漢政府由於兗州刺史劉岱陣亡，就任命一個叫金尚的爲兗州刺史，令其趕來兗州就任。曹操得到這個消息，預先派兵在兗州邊界迎擊，金尚只得投奔南陽袁術。

袁術是袁紹的弟弟，是嫡出；袁紹卻是庶出，其父袁逢又把袁紹出繼給二兄袁成。當袁紹據有青冀二州的時候袁術也據有戶口數百萬，手工業商業都比較發達的南陽郡。袁術野心大，想做皇帝。他看不起袁紹，認爲哀紹是他家“婢使”之子，對袁紹充當關東牧守的盟主非常不服氣，兄弟之間關係很緊張。袁術曾遠交幽州的公孫瓚，企圖顛覆袁紹在河北的統治勢力，袁紹也聯絡荊州的劉表來牽制袁術。

袁術

初平三年（192年）冬天，距離曹操擊降青州黃巾軍不滿二十天，袁術就和公孫瓚遙遙配合，開始向曹操和袁紹進攻。同年的年底，龍湊（在今山東平原境內，古黃河津渡）一役，袁紹擊潰了公孫瓚的來犯部隊。第二年正月，袁術進軍陳留，與曹操作戰正處於膠着狀態的時候，荊州牧劉表從襄陽進逼袁術的根據地南陽，並切斷了袁術的糧道，由此袁術主力不戰自潰，向襄邑（今河南睢縣西）、寧陵（今河南寧陵東南）一帶退卻。

從此袁術失掉南陽，退到淮北，又從淮北退到淮南，以壽春（今安徽壽縣）爲根據地。袁術退到淮南以後，西面受到荊州牧劉表的威脅，東北面又不可能向徐州發展，於是想利用江東籍的將領孫策來經略大江以南，這引起了以後孫策的渡江和拓定江南，給東吳政權奠定了基業。

曹操於初平四年（193年）春天把袁術擊退，在同年秋天，就發動進攻徐州（治下邳，今江蘇睢寧西北）牧陶謙的戰爭。

曹操進攻徐州，有兩個原因。第一個原因，當時曹操是依附袁紹的，可是陶謙卻和公孫瓚結成聯盟，與袁紹爲敵。當公孫瓚進攻袁紹的時候，陶謙還曾出兵配合公孫瓚進攻袁紹。因此，袁紹擊退公孫瓚、曹操擊潰袁術之後，他們就必然要把兵鋒轉向徐州。

但是那時河北地區的黑山農民軍於毒部又活躍起來，一度進入冀州的心臟鄴城，袁紹忙於鎮壓黑山農民軍，無暇遠略，所以進攻陶謙的責任，就落在曹操一個人身上。

第二個原因，曹操的父親曹嵩本來居住在故鄉譙縣，山東牧守兵起，他從譙縣避難至琅邪（國都開陽，今山東臨沂北）。曹操出任兗州牧後，想把父親接到任所。曹嵩走到兗州屬郡泰山界內華縣（今山東費縣東北）、費縣（今山東費縣西北）界內，遭到陶謙的部將張闓等的襲擊，曹嵩及其次子曹德全家數十口都被殺死，一百多車財物也被掠一空。所以曹操攻入徐州，志在復仇。

曹操攻入徐州境內，接連攻下彭城（今江蘇徐州市）以北的十多座城市，屠殺人民數萬口，這帶破壞得“雞犬亦盡，墟邑無復行人”。曹操在徐州屠殺了一陣以後，軍食亦盡，到興平元年（194年）春天退回兗州。

陶謙

曹操將軍隊略加整補，後方也略加部署之後，就在同年的夏天，再度進攻徐州，還是和上次那樣，“所過多所殘戮”，最後還想進攻陶謙所駐的下邳，由於陶謙的堵擊，同時兗州境內，正醞釀着一次巨大的政變，陳留太守張邈聯絡駐屯東郡的曹操部將陳宮，迎呂布出任兗州牧，共拒曹操，這就迫使曹操不得不迅速把自己軍隊從徐州撤回來了。

呂布殺了董卓以後，王允並沒有怎樣重用他。董卓部將進攻王允，圍攻長安城時，呂布率百餘騎自長安逃出，由武關（今陝西商州東）至南陽，想投奔袁術，但爲袁術拒絕。他又投奔袁紹，又遭袁紹猜忌，乃改投張楊（故何進部將）於河內。途中經過陳留，和張邈“把手共誓”。

自從曹操出任兗州牧以後，張邈和曹操之間的關係開始惡化，這時張邈和陳宮聯合，派兵迎呂布進駐濮陽（今河南濮陽南，本爲東郡治所，曹操做東郡太守，移東郡治東武陽，今山東莘縣西南），推布爲兗州牧。

由於張邈和陳宮在兗州陳留、東郡等地區擁有一定的地方勢力，因此他們出來反對曹操，立時“郡縣響應”。只有曹操的駐地鄄城（今山東鄄城北）和東郡的兩個屬縣範（今河南範縣東南）、東阿（今山東陽穀東北）兩城在曹軍堅守中。這時曹操抽調了絕大兵力去攻打徐州、“留守兵少”，後方非常空虛，而兗州（鄄城）城內的督將大吏，多與張邈、陳宮通謀”，對曹操說來形勢是極危險的。

曹操自出任兗州牧之後，已把東郡太守讓給自己最親信的將領夏侯惇來擔任。到曹操去攻打徐州時，又把兗州後方的留守事務交給荀彧去處理。荀彧趕忙把夏侯惇的軍隊從東郡調回鄄城，連夜殺督將大吏謀叛迎呂布者數十人，把兗州的政治中心鄄城穩定了下來。同時又派東阿人程昱前往範、東阿兩城，鼓勵當地官吏“拒城堅守”。呂布進攻鄄城不克，西屯濮陽。曹操便回軍攻打濮陽，濮陽大姓田氏在城內響應曹操，曹操親率戰士入城，可是巷戰失利，險些被呂布的騎兵抓住。結果冒着火焰，從東門逃出，左手掌被火燒傷。

曹操和呂布交戰了百多天。戰鬥的持續進行，使得農民無法從事生產。這年夏天，蝗蟲又特別多，發生了大饑荒,“百姓大餓”。呂布也是非常缺乏軍糧，只得退兵。九月間曹操回到鄄城，呂布也退屯山陽郡治昌邑（今山東金鄉西北）。曹操用了一年多時間，才把兗州的郡縣陸續收復。到了興平二年（195年）的夏天，經過鉅野（今山東鉅野南）會戰，曹操終於擊敗了呂布，使呂布不得不向徐州方向逃奔。張邈隨呂布南奔，後來爲其部下所殺。

這樣，曹操在兗州的統治地位總算漸漸穩固下來。當曹操同呂布作戰相持不下之際，袁紹曾派人勸說曹操把家屬遣送到鄴城居住，實際上就是叫曹操對袁紹“稱臣納質”。

曹操的謀臣程昱等人表示反對，曹操也沒有答應。從這一樁事可以看出，一方面當時“袁曹方睦”，他們之間的關係還算和睦；另一方面隨着時間的推移，形勢的進展，袁曹之間的矛盾也快要表面化了。