就在吳人將領匆匆定計之際，漢軍也不甘在此地對峙不戰，很快就從右翼發動了進攻。
漢軍之所以先出右軍，一則是郭淮帶精銳北府兵居右，中路王凌所帶的是東府兵，戰力上可能稍遜王凌一籌；二則想呂蒙坐鎮中軍，旗下定然都是精銳，而朱然在吳軍中尚沒有什麼經典戰役，也是年輕之輩，就不如從這裡著力。將吳軍左翼很快擊潰後，再再以右翼為錘向內旋轉，張開左翼為砧，將吳軍擠壓擊碎。
漢軍右軍以步兵為主，居中突前的將士身披厚鎧，戴鐵兜鍪擋箭，手持長槊身背斫刀，用於正面衝陣；兩側和居後的將士則身披皮甲，足穿皮靴持弓矢，以射箭阻擋吳軍下山衝鋒。郭淮留溫恢在陣中揮黃旗督戰，其餘身邊眾將，如令狐華、王機等人，都率軍衝殺在前。
漢軍約萬人一起密集湧出，蟻群般撲向吳人佔據的小丘。大軍出擊，卻沒有人嘈雜喧鬧，只聽得皮靴踏過略超地皮的聲音，以及此起彼伏的鎧甲兵器撞擊聲。憑此就可判定出擊的漢軍絕非烏合之眾，而是平時訓練有素的精銳之師。
吳軍立於小山上面，就見漢軍如同決堤的巨浪，快速地翻騰上來。一方面金鐵之聲不絕於耳，而腳下的山頭，也開始微微的顫動。吳人軍士面色凝重，手持武器不動。這些人若非是呂蒙苦心挑選的精銳，之前也未與漢軍交戰過，見此情形恐怕早已怯陣，遑論迎擊了。
漢軍主動上山逆戰，稍稍出乎呂蒙預料。看到漢軍士氣正猛，又用重甲密集居前，吳軍沒有迴旋餘地不便對戰。於是呂蒙下令舉旗，將陣勢後撤。戰陣之上退兵風險極大，如不能協同一致，將可能引起混亂甚至崩潰。而此時吳軍的撤退，就顯出了呂蒙的老道——吳軍首先分出千名弩士前出迎敵，利用這個空檔，大軍迅速轉身緩緩後移。
在山道之間，弩士們迅速散開，佔據更有利的地形，然後突發箭雨。漢軍沒料到吳軍竟敢如此應對，督將立即號令軍士舉盾而行，同時密集結陣，使吳人的這種散射沒有發揮的空間。但這樣一來，漢軍的速度驟然減慢下來。這種減速漸漸往後傳遞，漢軍進攻的巨浪就如同遇到了堤壩，洶湧地堆積擁在一起，將士之間鎧甲武器互相撞擊，發出連綿不絕的聲音。
但吳軍並無正面對戰漢軍之意，也沒有這個力量。前頭的弩手只來得及射出三排箭，就被漢軍陣中的還擊的箭羽所逼退。漢軍前隊朝前追擊，很快淹沒了零星中箭到低的吳人弩手。隨著前隊的前移，漢軍原本密集的陣型被向前頭拉扯，中間變得稍顯稀鬆。後面沒有接戰的大隊便跟隨著前移，力圖彌補這個空隙。不過吳人的弩手沒有立刻逃走，他們很快又停下，繼續用強弩襲擾漢軍。就這樣且鬥且走，吳人把漢軍向右側往外拉伸，漢軍的前隊已經攀上了小山頭，而且向右彎曲，其後隊則還在山腳下面。
漢軍只顧尾隨驅逐吳人的弩手，並沒有察覺到提前退出戰陣吳人後隊的去向。坡頂的東面是一處緩緩的下坡，連綿的野柿林一直延展到坡腳，而吳人的精銳就在柿林之中等待時機。當漢軍的軍陣已如拉伸的麵糰，不僅便得稀疏，而且大大小小的空洞已有導致前後斷裂的危險時。約有上千的吳人步卒從柿林中飛快地衝出，自東向西橫擊漢軍軍陣。由於還有霧氣瀰漫，漢軍的視野極差，完全沒有料想到會遇到側擊。這使得吳人大戟士呈縱隊，就像一把尖銳的刺刀，切入漢人軍陣柔軟的頸部，並不斷向西延展，有將漢軍前隊切割包圍之勢。
幾乎於此同時，原本與漢軍反覆糾纏的弩手們，此時徹底放棄抵抗，紛紛向兩側橫跑散開，很快就退出戰陣不知所蹤。而漢軍的陣前突然換成了吳人的披甲武士，其陣型密集排成若干橫排。吳軍將士已將重鎧披上，用鐵兜鍪護頭，此時精力充沛士氣正旺，就聽吳陣中發出搖動山嶽的怒吼，重甲吳軍朝當前漢軍洶湧地撲來。
漢軍司馬牛金留在右軍郭淮身邊督陣。他們所處的位置，看不見前方吳人已經發起反撲，但已經收到了側翼突然冒出的吳軍大戟士正在橫穿漢陣。牛金急忙對郭淮催促說：“前軍披重甲上山，精力必然消耗眼中，如今被吳賊從後面兜底截住，若再遭前面吳軍的反身衝殺，下山必定勢如破竹。請趕快出騎兵上山，驅趕吳軍！”
郭淮也很慌，因為渡河修營的緣故，他手底下的騎兵多在西岸休整，如今手底下能用的騎士，也大概只有三千餘人而已，這真的難成嗎？但他也來不及細想了。急忙令牛金出陣，並把僅剩的預備隊騎兵都交給了他。由於緩坡前面擠滿了漢軍右軍的步兵，牛金的騎兵只得向左側迂迴，沿著兩軍對戰的中線上山，試圖畢竟橫切汗巾的吳軍大戟士，並將之擊敗。
漢軍中軍由王淩統帥，漢兵精銳都在左右兩翼，尤其在郭淮的右翼，中路兵多，但是兵甲都較為一般，所以沒有出擊的打算。郭淮見牛金的騎兵繞到中路上山交戰，不禁憂慮起來，他對左右說：“右邊沒有決出勝負，倘若把吳人中路捲入戰鬥，下山來戰，我們如何應對？”
王凌的擔憂很快就變成了現實，不久漢軍偏將軍王平派一青年騎士來報說：“吳軍中軍已出兵迎戰，我軍的騎兵恐怕上不了山了！”王平原是劉燮留在帳中的督將，此時也轉派到了王凌帳下，王凌看他出身士卒，作戰經驗豐富，便令他在高處觀察敵情。
王凌聽到來人稟報，心中不快，對來人說：“觀察敵情，照實說便是了，是不是上不了山，不由你來做主張！你一個年輕人，知道什麼！”見來人哂笑不語，雖然只有十來歲模樣，面對王凌卻毫無懼色。不知為何，王凌的火氣也消了不少，他問這青年道：“你叫什麼名字，今年幾歲？”那青年拱手答道：“在下廣陵陳騫，字季弼，今年十九歲。”
“喔，陳騫。”看這個青年的模樣，王凌不禁想到自己年輕時候，又覺得有幾分老上級牽招的氣質，一時頗有些感慨，但都沒說什麼，嘴上只對陳騫說：“回王將軍那裡去吧。”
陳騫連忙俯身拜別王凌，策馬奔回本陣。他撥馬靠近王平，抓住他的馬轡頭，小聲耳語說：“將軍，右翼敗像已定，吳人中路一舉衝下來，我們勢必無可抵擋。眼下之策，唯有先做好準備，撤退時直奔浮橋，才能讓大軍不至慘敗。”
王平極為詫異地看了陳騫一眼，而後說：“是王將軍和你說了什麼嗎？”陳騫搖頭，王平沉思片刻，頷首說：“你說得對，眼下我也沒有別的辦法了。”
再觀察前方戰況，果見吳人中軍奔出三千餘人攔在牛金的前路上，牛金不甘示弱，雙方就在坡面上纏鬥起來。貌似不能立刻分出勝負，可誰知就在這時候，突然在半空中突兀地響起一聲象鳴，這讓王平立刻失色，轉頭望去，頓時看到兩座巨大如小山似的身影。吳軍竟然運了兩頭大象到八公山上了！
除去西府軍外，其餘漢軍均沒有見過大象，此時突然看見山頭出現兩頭怪獸，在迷霧中猛地往漢騎中踏過來，頓時驚駭萬分，尤其是那些戰馬，見到這種龐然大物後，也開始嘶鳴動亂起來，打亂了漢軍搏鬥的節奏。吳軍抓住這個機會，立馬湧上去與漢騎肉搏，頓時將陣型衝成幾段，雖然牛金仍然竭力在率領騎士們勇猛奮戰，但在陣型已經潰敗的前提下，結局已無懸念。
就在牛金的增援騎兵被吳軍大戟士打散的時候，滯留坡頂的漢軍經不住吳軍兇猛的反擊，突然間，發出一陣山崩般的聲音，紛紛掉頭奔逃。沿途裹挾後面的漢軍，形成聲勢更大的洪流，一路奔潰而下。漢軍諸將勒兵禁止不得，卻被這股洪流所帶動，一起回身奔逃。洪流越滾越大，一直衝過右軍統帥郭淮的本陣。此時漢軍右軍已呈瓦解之勢，主帥郭淮、副將溫恢、王機等各部各軍，都在奪路奔逃。
中軍王凌離谷口近，佔住了後退的先機。右軍各軍奪路奔逃，堵在谷口通行不暢，大家就往兩側的山坡跑，朝谷口側面的溪谷裡面跑。為了爭路奔逃，那些涉險被逼到沒有路的斷崖上，或者下到溪谷懸崖邊的漢兵，不經過戰鬥就紛紛投墜懸崖。好在八公山不夠高，這樣下來，雖說摔斷腿腳的不知凡幾，但摔死的終究是少數。只是如此一來，八公山的敗局已經無可挽回了。
但這並不意味著整個戰事已經結束，吳人畢竟不是全軍壓上，漢軍的兵力也輸得起一場戰鬥，吳軍在這種情形下，必須要設法擴大戰果，才有可能將漢軍逼回淮北。