永熙三年，就在這一年孝武帝誅殺高乾已經讓兩人之間的矛盾難以調和了，高歡接著又消滅了費也頭紇豆陵部其實已經在提前為軍事鬥爭做著準備，在接下來的三四個月裡，洛陽與晉陽之間的隔閡還在繼續加深。
對於孝武帝而言，此時高歡已虎視眈眈，時間緊迫，容不得孝武帝讓高歡一黨繼續待在洛陽了。高歡的內弟、領軍將軍婁昭見大勢不妙，也是三十六計走為上計，稱病逃離了洛陽，回到晉陽。
婁昭離去後，孝武帝以斛斯椿兼任領軍將軍，並對黃河以南以及關西各州都督、刺史人選進行一次大規模的更換，不過，從實際情況來看，起碼孝武帝在關西任命的各個刺史大多受到了宇文泰的抵制，並沒有達到預期的效果。
就在孝武帝加緊佈置的同時，高歡也不甘示弱，開始蠶食黃河以南、帝國東南部地區，以期切斷孝武帝的右臂∶他首先將矛頭對準了徐州刺史華山王元鷙。高歡命令前去討伐變民的原殷州刺史、徐州大都督邸珍接管了徐州城防。你挖我鼻子，我挖你眼睛。建州（治所山西省晉城市）刺史韓賢、濟州（治所山東省在平縣）刺史蔡俊都是高歡一黨，建州扼守太行，濟州聯絡河北、屏護山東，地理位置都非常重要，為了排擠韓賢，孝武帝下令撤銷建州建制，又讓御史彈劾蔡俊，另外任命汝陽王元叔昭接替蔡俊，改任蔡俊行兗州事。高歡上書反對；“蔡俊功勞很大，不可罷免；汝陽王品德高尚，應當擔任大州的刺史，可以把我的弟弟、定州刺史高琛免職，由汝陽王接替。”定州在高歡的勢力範圍，元叔昭去後，等於是虎落平陽，孝武帝當然不會同意。
孝武帝決定發兵討伐高歡。五月五日，他又增設了六百名貼身禁衛軍和二百名禁衛騎兵軍官。十日，他下詔實施戒嚴，對外聲稱將要討伐南梁，徵召黃河以南各州軍隊，在洛陽組織大規模的閱兵。孝武帝擔心會引起高歡的警覺，六月六日，孝武帝給高歡下達了一封密詔，他在密詔中聲稱∶“宇文黑獺（宇文泰的小名）自從平定秦、隴以後，屢屢提出非分之請，一旦此人懷有二心，即需早做準備。但是，此人的奏表並未完全忤逆，如果發兵前去討伐，確實有些為難，遂召叢集臣商議是否可行。大家都說對外謊稱將要南伐，實施戒嚴，一則是預防宇文黑獺；二則可以嚇唬嚇唬南梁。大王也應該與朕相互呼應，閱讀以後，立即焚燬。”
孝武帝的這套把戲豈能瞞過高歡？他將計就計，順著孝武帝表示自己計劃從河東郡渡過黃河，挺近關中； 婁昭率領五萬大軍，南下討伐荊州；冀州刺史尉景率領七萬山東兵、五萬突騎，南下討伐南梁。看了高歡的奏表，孝武帝立即感到高歡已經看穿了自己的心思，遂拿出高歡的奏表，召叢集臣商議，阻止高歡的行動。與此同時，高歡也召集下屬商議對策，又上書孝武帝說：“臣下被奸臣離間，遂讓陛下突然對臣產生猜疑。臣如果膽敢背叛陛下，讓我自己受到上天的懲罰，子孫滅絕。陛下您如果相信臣的一片忠心，就停止軍事行動，並請考慮將那一兩個奸臣逐出朝廷。”
六月十六日，孝武帝命令大都督源子恭率軍駐守陽胡，汝陽王元暹率軍駐守石濟。又任命開府儀同三司賈顯智為濟州刺史，命其率領豫州刺史斛斯元壽之兵東去濟州，準備將蔡俊趕出濟州。但蔡俊拒絕讓出濟州，並早已嚴加戒備，賈顯智一行行至東郡即不敢繼續前進。
孝武帝還徵召賀拔勝、宇文泰二人率軍前來洛陽護駕。賀拔勝詢問盧柔對策，盧柔回答∶“高歡反叛，大人火速進京，與其決一死戰，生死不悔，這是上策；北面駐守魯陽關，南下兼併南梁雍州，東面與兗州、豫州聯合，西面與關中的宇文泰結盟，手握百萬軍隊，坐山觀虎鬥，這是中策；把三個荊州的土地都交給南梁，尋求南梁的庇護，終身的功名，一朝皆去，這是下策。”賀拔勝聽後笑了笑，什麼話也沒說。
孝武帝任命宇文泰為兼尚書僕射、關西大行臺，還答應將剛剛改封為馮翊公主的妹妹嫁給他。宇文泰與眾將商議後，決定命令寇洛率領一萬步騎從涇州東下，王羆率領一萬步兵先行佔領華州。高歡如果西來，王羆足以抵擋；如果高歡進入洛陽，寇洛就襲擊汾州和晉州。然後，宇文泰又任命前秦州刺史駱超率領一千輕裝騎兵趕赴洛陽，派遣楊薦與長史宇文測率部東出潼關，迎接孝武帝，他自己則向所屬各個州郡釋出檄文，痛斥高歡的罪惡，親自率軍從高平東下，前鋒軍隊抵達弘農（河南省靈寶市）。賀拔勝的荊州軍隊也推進到汝水，但宇文泰和賀拔勝都各自心懷鬼胎，他們的援軍都是剛出轄區邊界，就停了下來。
永熙三年七月九日，孝武帝親自指揮十餘萬大軍駐守在河橋，任命斛斯椿為先鋒，率部在邙山北麓紮營。斛斯椿請求率領兩千精銳騎兵渡過黃河，趁著高歡的軍隊長途而來疲憊不堪之時發動突然襲擊。起初，孝武帝非常贊成，但黃門侍郎楊寬聽說後對孝武帝說∶“高歡以臣子的身份卻來討伐君主，他什麼事情做不出來？如今，把軍隊交給別人，恐怕會出現意外。斛斯椿如果渡過了黃河，萬一成功，這是滅掉一個高歡，又生出另外一個高歡啊。”
孝武帝聽信了楊寬的話，遂下令斛斯椿停止軍事行動。斛斯椿嘆息道∶“最近，彗星進入南鬥，皇上聽信親信的讒言，不採納我的計劃，這豈不是天意嗎！”宇文泰聽說孝武帝的部署後，對身邊的親信們說∶“高歡數日之內行進了八九百里，此兵家大忌，應當趁機發起進攻。可是，主上以尊貴之身份不能渡河與之決戰，只能部署軍隊沿著黃河南岸固守，黃河有萬里之遙，防守起來十分困難，一旦一處被突破，則大事去矣！”遂任命大都督趙貴為別道行臺，率軍從蒲坂東渡黃河，向幷州腹地挺進； 又派遣大都督李賢率領一千精銳騎兵奔赴洛陽。
孝武帝命令斛斯椿與行臺長孫稚、大都督潁川王元斌之（元鑑的弟弟）一起鎮守虎牢關（河南省鞏義市東），以汝陽王元暹鎮守石濟（河南省延津縣東北），行臺長孫子彥（長孫稚之子）率領前弘農太守元洪略鎮守陝城（河南省陝縣），賈顯智、斛斯元壽等人鎮守滑臺（河南省滑縣）。
對於高歡而言，必須在賀拔勝、宇文泰的大軍抵達洛陽之前，先行渡過黃河，擊敗孝武帝的軍隊；一旦荊州之軍與關西之軍進抵洛陽，則局勢就變得複雜了。於是，高歡命令相州刺史竇泰與左廂大都督莫多婁貸文朝滑臺撲來，迎擊賈顯智之軍；又以建州刺史韓賢朝石濟而來，迎戰元暹之軍。
竇泰、莫多婁貸文之軍與賈顯智的部隊在長壽津（河南省滑縣東北）遭遇，賈顯智暗中與竇泰聯絡，準備臨陣投降。軍司元玄覺察有變，飛馬離開軍隊逃回洛陽，請求派軍增援。孝武帝另派大都督侯幾紹率部東進，與竇泰之軍在滑臺東面交戰，賈顯智臨陣率部投降，侯幾紹戰死。高歡的左路大軍遂威脅到了洛陽的東面。
北中郎將田怙作為高歡的內應，打算將獻出北中城，高歡偷偷率軍挺進到野王（河南省沁陽市），孝武帝得知後，當即斬殺了田怙。高歡率部來到黃河以北十餘里的地方，再次上書表明自己的忠誠，孝武帝不予答覆。
七月二十六日，高歡率軍渡過了黃河。
孝武帝召叢集臣商議對策。有人說南奔南梁，有人建議去荊州投靠賀拔勝，有人勸西去關中，還有人說固守洛口決一死戰。大家七嘴八舌，莫衷一是。武衛將軍元毗等人以關中乃帝王龍興之地，殷勤叩頭請求西去。就在這時，元斌之因與斛斯椿爭權，擅自離開虎牢關回到了洛陽，他對孝武帝撒謊說∶“高歡的部隊到了！”眾人聽了，均大驚失色。
七月二十七日，孝武帝派出使者徵召斛斯椿護駕，並帶著南陽王元寶炬、清河王元亶、廣陽王元湛、堂妹平原公主元明月，率領五千騎兵離開洛陽城，露宿在瀍水西岸。
七月二十八日，孝武帝動身西去，李賢在崤山途中遇到了孝武帝。
七月二十九日，高歡率部進入洛陽，派遣領軍將軍婁昭率軍追趕，請求孝武帝回來。他宣稱：“讓天子西去，源於元毗，即使經過一百次大赦，也不會赦免此人的！”長孫子彥無力固守陝城，棄城而逃。高敖曹率領精銳騎兵一路狂追，一直追到陝城以西也沒有追上，只好折返。
一路上，孝武帝揚鞭狂奔，三四天之內，隨從們都餓著肚子，以喝澗水充飢。行至湖城（河南省靈寶市東），王思村的村民給孝武帝奉上饅頭、茶水，孝武帝大喜，下令免除該村十年的賦稅。孝武帝在事前就任命毛鴻賓（毛遐的弟弟）為潼關大都督，以防備西方的宇文泰，他們一行人來到稠桑（河南省靈寶市西三十里）時，毛鴻賓前來迎接，獻上酒肉，孝武帝的侍從們這才吃飽喝足。
孝武帝進入長安後，以雍州刺史府邸為王宮，大赦，任命宇文泰為大將軍、雍州刺史、兼尚書令，軍國事務由其全權處理。又設定了兩名尚書，分別由毛遐和周惠達充任。當時，政府剛剛成立，毛邏和周惠達二人積極儲備糧食，修造武器，訓練軍隊。孝武帝在洛陽時就曾答應要將妹妹馮翊公主許配給宇文泰，當時沒來得及成親，高歡就來了，孝武帝進入長安後，即下詔令宇文泰娶了馮翊公主，並拜宇文泰為駙馬都尉。
