漢獻帝初平二年（公元191年），山東青州黃巾軍和河北黑山軍又像野火燎原般復燃起來。袁紹以討伐董卓盟主的身份，命令曹操領兵前往東郡鎮壓黑山軍。

曹操在河南濮陽擊敗黑山軍一部，得到一塊地盤。袁紹送了個順水人情，任命曹操為東郡太守。過去朝廷曾經任命曹操去當東郡太守，他沒有接受。這次袁紹任命他當東郡太守，他欣然接受了，因為曹操要在中原先打出一片自己的立足之地。

東郡曹操及周邊勢力

這時，謀士荀彧前來投奔曹操。荀彧出身名門，父親荀緄曾任濟南相，叔父荀爽官至司空。他本人曾任亢父（今山東濟寧市南五十里）縣令，董卓之亂起，他棄官回鄉。袁紹曾把荀彧招至帳下，厚待之。荀彧透過一段時間的接觸和觀察，斷定袁紹成不了大事，轉投曹操。曹操見荀彧來投，大悅，把荀彧比作張良：“吾子房也！”那一年荀彧二十九歲，風華正茂。

初平三年（公元192年），黃巾軍進攻兗州（治今山東鄄城），兗州牧劉岱戰死，兗州一時無主。東郡隸屬於兗州，東郡人陳宮前往兗州，對兗州官員和地方大族說，曹操才幹出眾，如果能把曹操請來做兗州牧，一定能打敗黃巾軍，保住兗州一方平安。曹操的好友騎都尉鮑信這時也在兗州，一起出面遊說。

兗州官吏和地方大族被說服，派兗州府官員萬潛為代表，跟隨鮑信一起到東郡，把三十八歲的曹操接去當了兗州牧。但曹操當的這個兗州牧，既不是朝廷正式任命，也不是民間選舉，等於是兗州地方勢力臨時“聘任”了他。

曹操上任伊始，就與鮑信領兵去進攻壽張（今山東東平西南）的黃巾軍，鮑信戰死。曹操十分痛惜，懸賞購回鮑信屍體安葬而不得，只能刻一個木頭人，面目有點像鮑信，權當鮑信屍體安葬，曹操“祭而哭焉”。

曹操及時總結經驗教訓，明設賞罰，艱苦戰鬥，青州黃巾軍向濟北敗退，曹操乘勝追擊，以武力進攻與勸降、誘降相結合，三十多萬青州黃巾軍向曹操投降，跟隨的眷屬百姓上百萬。曹操從中挑選出約兩萬人，成立了一支青州兵。

兗州3國5郡

隨後的日子裡，曹操為鞏固兗州這片立足之地，進行了艱苦卓絕的鬥爭。

南陽軍閥袁術，鼓動黑山軍殘部和南匈奴於夫羅從北面向兗州進攻；袁術從南面向兗州進逼，企圖南北夾擊，奪取兗州。曹操首先把北面的黑山軍殘部和南匈奴於夫羅勢力擊退，然後集中主力，向駐紮在封丘（今河南封丘）的袁術發起反擊。

曹操先打駐紮在匡亭（今河南長垣縣西南）的袁術部將劉詳，引誘袁術前來救援，在半路佈下伏兵，一舉將袁術擊潰。袁術望風而逃，曹操乘勝追擊，袁術一直逃到九江，來自南陽方向的威脅從此減輕。

徐州牧陶謙，也與曹操為敵，不斷蠶食兗州。靈帝死後，曹操父親曹嵩“去官後還譙，董卓之亂，避難琅邪（今山東膠東半島南部之膠南縣）”。初平四年（公元193年）夏天，曹操派人到琅邪去接父親曹嵩及弟弟曹德來兗州。

曹嵩父子西行至山東黃縣，被陶謙部將張闓襲殺，一百多車財物被搶劫一空。曹操無法容忍陶謙殺父、殺弟、劫財之仇，同年秋天，親率大軍東征徐州。曹操懷著強烈的復仇心理，一路攻掠，屠城而進，“凡殺男女數十萬人”。這也是後來曹操經常被人詬病的事件之一。不久曹操軍隊由於軍糧吃盡，只得退兵。

193年中原局勢

第二年四月，曹操再次東征陶謙，大軍進入徐州境內，連下五城。正在這時，兗州後院起火，張邈和陳宮在兗州反叛曹操。陳宮曾是促成曹操去當兗州牧的說客，後來在曹操手下為將。由於兗州名士邊讓“譏議”曹操，被曹操殺掉，引起兗州士人恐慌，陳宮覺得無法向兗州地方勢力交代。這時他去鼓動陳留太守張邈，乘曹操東征，內部空虛，反叛曹操。

張邈本來是曹操的好友，當初曹操是位“政治流浪漢”，沒有自己的立足之地，卻為討伐董卓東奔西走，張邈同情曹操，當面斥責“盟主”袁紹只為自己打算，袁紹憤恨張邈，讓曹操殺掉張邈。曹操沒有理睬，張邈感激曹操。

但自從曹操當上了兗州牧，成了張邈的頂頭上司，張邈感到與曹操相處時間一長，產生政見分歧是不可避免的。又想起袁紹曾要曹操殺掉自己，曹操當時沒有殺，今後會不會殺？陳宮跑來一鼓動，張邈就同意反叛曹操。

這時又插進來一個呂布。

呂布在長安被李傕等擊敗，出關東來，投奔袁術，袁術不留。又北投袁紹，與袁紹一起在常山郡擊敗了一支黑山軍。但呂布的軍隊軍紀極差，搶掠不已。袁紹覺得呂布遲早要成禍害，準備除掉呂布。呂布察覺，南下投奔河內張楊。

陳宮與張邈覺得自己力量不夠，派人到河內去請呂布來當兗州牧，頂替曹操。於是，陳宮、張邈、呂布三人合謀，以呂布為將，起兵奪取兗州。陳宮和張邈在當地長期為官，有人望，他們打出反曹旗幟，“郡縣皆應”，倒向呂布。

兗州治所在鄄城，荀彧在鄄城留守，鄄城形勢危急，他火速把駐守東郡的大將夏侯惇調回鄄城，先把城內響應張邈、陳宮反叛的一些人殺掉，穩住了鄄城局面。程昱是東阿人，荀彧急派程昱回東阿和範縣說服當地官吏和守軍決不能向呂布軍投降。

呂布攻打鄄城、範縣、東阿，均未攻下，於是西撤至濮陽，屯兵休整，準備再戰。

曹操緊急趕回鄄城，譏笑呂布不會用兵。他說，如果呂布佔領東平（今山東東平），再守住亢父等泰山險要隘口，阻止我西返，我就完了。他屯兵濮陽，說明他不可能有大作為。

隨後，曹操展開了兗州保衛戰。興平元年（公元194年）夏，曹操搶收麥子，儲備軍糧。八月，聯絡濮陽大姓田氏做內應，從東門攻進濮陽，進城後火燒東門，以示有進無退。

呂布的騎兵很厲害，他以騎兵衝擊曹操的步兵，曹軍大亂，曹操差一點被呂布抓住。曹操冒火衝出東門，收攏部隊，趕製攻城器械，再次攻城，未攻下。雙方對峙了一百多天，由於發生嚴重蝗災，老百姓無糧，人吃人。曹操和呂布雙方都因沒有軍糧而罷兵。

曹操由於兗州大部分地盤丟失，軍隊又斷糧，幾乎無法堅持下去，陷入了嚴重困難。這時袁紹向他丟擲橄欖枝，讓他把家眷搬到鄴城去。袁紹的用意是以曹操家眷為人質，逼迫曹操為他所用。程昱立即勸阻曹操說：袁紹野心太大，智謀太差，成不了大事，雖然眼下兗州殘缺，但手裡還有三座城池一萬兵，只要咬牙渡過眼前的難關，就大業可成！

曹操聽罷，精神一振，謝絕了袁紹的“好意”，忍痛遣散了新招募來的兵員和力役，到東阿一帶去籌糧。經過半年休整，曹操軍隊基本恢復了元氣。

興平二年（公元195年）正月，曹操為收復兗州再度發動攻勢。首先襲擊兗州重鎮定陶，呂布前來救援，被擊退。閏四月，又在鉅野大敗呂布，斬殺呂布手下兩員大將薛蘭和李封。曹操領兵進駐濟陰乘氏縣（今山東鉅野西南五十里），進行休整。

這時傳來訊息，徐州牧陶謙去世。曹操本想乘機奪取徐州，再回過頭來解決呂布。他這個危險的想法一冒頭，馬上被荀彧勸住。

荀彧說：你在陳留起兵（陳留屬兗州），又在兗州得到發展，兗州是你自己打出來的一片立足之地。想當年，劉邦定關中而得全國，劉秀定河北而得全國。你現在兗州尚未完全恢復和鞏固，就想冒險東征徐州，如果呂布乘虛攻佔兗州，你回哪裡去？兗州地處中原，天下中樞，南北要衝，靠近故都洛陽，這是一塊寶地，是你安身立命謀天下的根基所在，萬不可失。艱難曲折並不可怕，怕就怕東奔西突，沒有一塊地方紮根。

曹操耐心聽罷，東望徐州，一聲長嘆，多好的機會啊！但荀彧言之有理，先守住兗州，緩攻徐州。

劉備乘機填補了陶謙死後的真空，當上了徐州牧。

曹操這個人，與劉邦又同又不同。相同之處在於，兩人都善納忠言。不同之處在於，劉邦本人的謀略水平並不十分高明，全靠張良、陳平、蕭何等人給他出點子。在關鍵時刻、關鍵問題上，他都能聽得進勸，壓得住火，按照謀士們的意見去辦。曹操不同，曹操本人的才智謀略高於一般人。但人都是感情動物，一個人無論才智多高，也會有感情失控、失去理智的時候。

曹操經常有耐不住性子、壓不住火氣的時候，由此做出過不少莽撞舉動，付出過很大代價。例如，殺掉兗州名士邊讓；東征徐州時為了替被殺的父親和弟弟報仇，屠殺了幾十萬無辜的老百姓。這兩件事名聲損失太大。但曹操很善於及時總結經驗教訓，毛玠、荀彧等謀士在關鍵時刻、關鍵問題上也敢於向他進言。只要曹操覺得謀士的分析見解高於自己，他就能忍痛放棄自己的意見，按謀士的意見辦。

呂布、陳宮再次向曹操發動進攻，曹操組織軍隊外出搶收麥子，留守兵員不到一千人。呂布見曹軍後方林木幽深，疑有伏兵，撤退而去。第二天又來進攻，曹操這一天真的在大堤內佈置了伏兵，留一半兵員在堤外。雙方交火，曹操伏兵盡出，呂布大敗。曹操一舉攻克定陶，並乘勝收復了兗州各縣。

曹操左劈右擋，艱難地鞏固住了兗州這塊根據地。從此以後，他結束了東奔西突、寄人籬下的生活。興平二年（公元195年）冬十月，“天子拜太祖兗州牧”（《三國志·魏書·武帝紀》），這等於朝廷為曹操正式補辦了兗州牧的任命手續。曹操又乘勝攻佔了豫州的大部分地盤，並把本部遷到許昌，在中原佔據了更加有利的戰略位置。

事情似乎歷來如此，你只要把仗打勝了，遲早會有你的地位。曹操就是這樣走向了歷史的舞臺，拿下兗州成為日後稱霸北方的政治資本。歷史選擇了曹操，曹操本人也有充分準備和野心，雙方共同成就了一代梟雄的誕生。