麴義起兵叛亂後，劉備頓知大事不妙，急調三萬晉陽府兵連夜北上，但終究還是慢了一步，讓麴義接連佔據崞縣、繁峙，打通了聯絡東朝的道路。等他趕到劇陽城下，魏漢代郡太守韓浩已率兵接應，合眾約一萬人，與劉備對峙。
劉備本欲速戰速決，趁戰事規模不大將叛亂擲於毫末之時，奈何很快就失敗了。
劇陽地勢險要，西北面是六稜山，東南面是恆山，皆高達千丈，難以逾越。這就好比一個豎向拉長的“門”字，霸府並只能從西南角一條越二十里寬的通路北攻劇陽，而麴義早有預料，直接在劇陽南三十里處的臥虎山一帶紮營。臥虎山沿東南方向綿延盡十里，直接將霸府北上的通道攔腰截斷，雖然渾河以南尚有通道，但劉備不敢冒暴露側翼的風險繼續深入，只得發兵強攻臥虎山。
而於此同時，東朝的援軍正透過崞縣西北面的三陰山小道，源源不斷地向麴義輸送補給。這是劇陽唯一一條直通代郡的山路，而劉備全然無法干擾。
麴義輜重齊全，弓弩強勁，又有強援在側，可謂是以逸待勞。而戰時正值盛夏，縱使身處北疆，長途奔襲之下，霸府士卒疲憊遠超往常，這便導致劉備兩次強攻皆以不利告終。很快，隨著鮮卑大軍與夏侯淵部進入戰場，戰事不可避免地進一步升級，這些情況迫使劉備痛苦地承認，原本速戰的策略已然失敗。
而在此期間，他派簡雍巡告幷州各將，除去平城的令狐淵部不動之外，其餘各部均當速達馬邑。一時間，除去尚在臥虎山的劉備本部外，馬邑聚眾多達七萬。這幾年西國名將，多有凋零，除累年戰歿者如臧洪、劉宣、張羨、徐庶、高準、張楊、秦宜祿等人外，府中名望如陶丘洪、趙岐也都已病逝。然而諸將齊聚馬邑，軍容之盛，雖非當年渤海大戰可比，但仍極為可觀。其中知名的就有：
真定侯、定襄都督張飛所部，南匈奴左賢王、中部義鎮酋長劉豹所部，廣固侯、度遼將軍公孫瓚所部，泰安侯、討逆將軍太史慈所部，南鮮卑單于、北部義鎮酋長拓跋力微所部，河曲侯、靖安將軍昌豨所部，平定侯、昭餘將軍令狐邵所部，陽鄉侯、行壘將軍溫恕所部，昌文鄉侯、偏將軍陳到所部，平義鄉侯、護軍中郎將射堅所部，武鄉侯，安夏中郎將王昶所部，興平亭侯、晉陽都尉朱皓所部。
這僅僅只是幷州一地所聚之兵。而遠在長安的陳沖，在得知訊息後，深知此戰對於國家的重要性，當即也徵召了全國各地的兵力。縱觀當前的局勢，東府、西府、南府三軍都尚在組建，但也算粗有成效，陳沖斟酌之後，認為除去東府在兗、豫方面的局勢過於複雜，並不適宜抽調外，上林軍則盡數出征，而西府軍為其抽調七成，鎮壓羌亂，南府軍只留下一半，防備劉範可能的北進。
中軍建制已在前文論述，故而不再贅述，而此時抽調的西府、南府名將，卻也值得一提。
西府軍統帥正如此前所言，乃是歸義侯、金城都督段煨，其麾下領有軍師賈詡，督軍張懌，護軍馬超，領軍楊阜，典軍閻行，參軍龐統，其下又有六師中郎將，分別由麴勝、任養、賈洪、張橫、劉雄、李暹六人擔任。其中麴勝、張橫兩人留守隴西。
南府軍統帥乃是冠勇侯、陳倉都督魏延，其麾下領有軍師石韜，督軍梁雙，護軍杜畿，領軍繆尚、典軍張琰、參軍劉乾，其下有四師中郎將，分別由岑光、遊楚、羊衜、王昌擔任。其中游楚、羊衜二人留守陳倉。
如此一來，關隴抽調的軍隊也多達八萬，號十餘萬，沿渭水向長安聚集。等陳沖聞聽鮮卑已然南下，而曹操也整軍二十萬出發的訊息後，各部仍未完全齊聚，遂先進軍蒲坂，於河東平陽一帶修繕道路，不日就將北上幷州。
很快到了六月初，隨著東西兩朝的大舉調兵，雙方大決戰的決心都已暴露無遺，加上北面大部南下的鮮卑大軍，這次的戰事規模將達到極為駭人的五十萬。可謂天下矚目，有識之士都明白，一旦決戰開始，無論最後的結果勝負如何，都勢必將影響未來十年以內的政治走勢。可到底誰能獲勝？沒有人心中有底。
由於東朝合軍更早，故而曹操的主力大軍較陳沖先行抵達戰場。當二十萬東軍陸續進入代郡之後，劉備知道已不能再糾纏於劇陽，繼而主動率軍返回馬邑休整，這給曹操又取得了一個難得的先機。但他並不急於自劇陽突破，而是一面令麴義徐徐向西推進，做出將與之合戰的姿態，自己則率大軍從容自高柳西進。
這是出於多方面的考慮。雖然兵出劇陽能夠直接威脅到幷州腹心，但一來這個決策過於冒險，東軍對並不熟悉，貿然合戰未免風險太大，二來三陰山小道過於狹窄，軻比能自此進入劇陽後，後勤已極為吃緊，若再自此經過二十萬大軍，就全然無法支撐大軍的後勤運輸，反而容易帶來極大的損耗。
故而與審配等人商議後，曹操選擇採用一正一奇的策略：正面的大軍作為主力進圍平城，在劇陽的麴義則作為偏師和奇兵。他已發書麴義，若西軍主力北上，麴義就側面襲擾，若麴義能夠牽制西軍主力不敢貿然北進，那更好，他就能兵不血刃地開啟幷州北大門，更為安然地與西軍決戰。
癸酉日，曹操帶軍抵達平城城東，駐紮在相距約十五里處的白登山腳，而曹操親自登上白登山，從中眺望觀察平城的佈防。
因為是面對鮮卑的最前線，又經過西軍十餘年的經營，平城可以說已形成了一個極為複雜的防禦體系。
大城的相關甕城外郭自不必說，自然是修繕已久，無論是城牆高厚，皆不遜色於長安雒陽。而城外的工事也是駭人聽聞。單論東面，就築有呈波浪形分佈的十餘座小型塢堡為屏障，而北面，又築有一座子城，與平城互為犄角，足以容納三十萬人。而為了解決城中十餘萬軍民的用水，劉備曾大興土木，從武川水中開拓出一條新河道，確保新河能從兩城間緩緩流過。更別說在平城的南面約五十里處，還有三座劉備設定的鮮卑義鎮，據說招攬已過八萬人，雖說其中多有婦女老幼，並非人人能戰，且有多人正於馬邑中集結，但也足以對圍城戰造成極大的困擾。
曹操弄清平城的具體佈置後，也不禁為之膽寒，進而對曹仁感嘆說：“大概這就是天下第一堅城吧。此戰若能攻破，天下不足平！”
心知不可能立即攻破平城後，曹操浮躁稍去，選擇先一面拔除平城東面的塢堡，一面等待鮮卑軻比能大軍的匯合。至丙子，軻比能從三陰山小道返回，繼而奔波百里前來與曹操匯合，雙方會師的地點就定在這白登山下。
三十萬大軍齊聚的場面自然是壯觀得無以言表，旌旗蔽日，人海成潮，兵甲揮動的聲音都像是一次劇烈的海嘯。而上一次目睹如此規模的軍隊，還是七年前劉備討伐河北的樣子，如今世殊日異，反輪到東人領起如此規模的大軍討伐山西了，便連曹操自己也感到極為感慨。
而且和那次劉備出軍不同的是，這次東軍的馬匹較西軍更多，各種顏色的馬在山谷間穿行，層層疊疊，好似無窮無盡的浪濤。沒人說得清鮮卑人到底帶來了多少馬匹，這給守禦平城的西軍士卒帶來了極大的心理壓力。
而這也是曹操第一次得見鮮卑單于軻比能。他聽聞軻比能是鮮卑人的偉男子，樣貌極為英武，今日粗見，看軻比能甲騎具裝，並未從中看出不同，等他拖下鐵胄，露出索發的面孔後，頓感名不虛傳，極力誇讚他是漠北玉山。同行的鮮卑人見曹操樣貌矮拙，也不免心存蔑視，私底下議論說：以前的袁使君何等英俊，不料基業卻落到一個矮子手裡。
當夜，曹操領眾將邀請軻比能及麾下眾將宴飲。曹操飲到酣時，竟抽劍到堂中自舞。鮮卑眾人莫不驚訝，而東軍諸將卻習以為常，更有甚者，為曹操鼓樂陪奏，曹操一面於月下舞劍，一面自得唱道：
“對酒歌，太平時，吏不呼門。
王者賢且明，宰相股肱皆忠良。鹹禮讓，民無所爭訟。
三年耕有九年儲，倉谷滿盈。斑白不負載。
雨澤如此，百穀用成。卻走馬，以糞其土田。
爵公侯伯子男，鹹愛其民，以黜陟幽明。
子養有若父與兄。犯禮法，輕重隨其刑。
路無拾遺之私。囹圄空虛，冬節不斷。
人耄耋，皆得以壽終。恩德廣及草木昆蟲。”
這是曹操自寫的《對酒歌》，詩歌中少見得不言戰事，而盡是些他對太平盛世的想象。鮮卑人讓人翻譯之後，無不向往觸動，又紛紛感嘆於曹操舞劍時的風姿雄採。再議論時，他們說：若能對酒曹元帥，方不負英雄氣。