再說回漢軍，在司馬懿奇襲下相的次日，關羽已率軍進駐彭城西南五十里處的相山。十六萬大軍成蛇形繞山三匝，背水紮營，其軍勢浩大，旗幟漫山遍野，遮蓋林木。山下軍馬成群，輜車成堆，連營足有二十餘里。吳人斥候從未見過如此大軍，遠遠望見便不敢靠近，而後匆匆稟告彭城守將焦觸，此時袁熙已去下邳，焦觸不敢擅作主張，於是令將士籠城高守，避戰不出。
關羽對此也並不急躁。他深知在兵力優勢下，優勢方最重要的是不徐不疾，不讓敵方看出破綻，勝算就有八九分了，何況他已派出司馬懿這一奇兵。故而他一面巡視營中諸部，一面去信詢問天子行程，打算在收到南面的訊息後再做決斷。
司馬懿的訊息比預計來得晚了一天，主要是因為使者走得小路，一時誤判了方向，多走了八十里。等他感到下相大營的時候，已經是破城後的第三日了。
訊息傳到軍中，諸將初聞下相已破，意外之間也感到幾分喜悅。但令人奇怪的是，等元帥關羽細讀戰報時，面孔上竟浮現出些許陰雲來。
關羽喚來使者，對他問道：“戰報所言，可句句是真？”
使者不敢隱瞞，當即回道：“這是司馬將軍親自手書，絕無虛假。”
關羽頓感憤怒，他自胡床立起身軀，頓如高山聳立，而後對使者斥責道：“自先帝掌權以來數十載，雖不無過失，但從無殘戮之舉。司馬仲達殺俘掠民，更著京觀，大壞我王師之風，更置我軍法何在？”諸將這才知曉，原來司馬懿在下相獨自行事，城中除了漢軍外，已經沒有其餘活人了。
但事已至此，司馬懿遠在兩百里外，並無人能夠節制，加之又處在戰局的要害之地，是斷然不能處置的。楊秋見關羽面露不虞之色，擔心他鬧出矛盾，立馬低聲勸諫道：“此戰主在陛下，而司馬仲達乃是陛下紅人，眼下又立了功，元帥能拿他如何？還是把此事上報陛下，先關心眼前的戰事吧！”言語說到關羽痛處，他唯有長久嘆息，連夜向睢陽稟告此事，並請求以郭淮撤換司馬懿。
到了第二日，司馬懿斬首袁熙的戰報準時傳來。袁熙是國家大敵，佔據徐州十餘年，如今竟被司馬懿以六千餘眾一舉摧破，全軍一片歡騰。許多將領都誇讚說：“司馬仲達真是世之奇才，用兵設謀，隨心所欲，真有韓信之風啊。”而到了當晚，睢陽的天子又發來詔書說：“天下未平，國思良將。司馬懿雖違軍紀，但舉止無私，忠心可嘉，罰之寒三軍之心，望叔父專心戰事，此事勿要再提！”
劉燮的意見是如此堅定，關羽也無可奈何。不過從另一方面來說，他也不得不承認司馬懿的才華。隨著他佔領下相，斬首袁熙，泗水與淮水間的聯絡已被漢軍扼斷，淮南淮北不能用水路交通。而徐州主將戰死，也必將大大影響吳人士氣，這就使得徐州的形勢已全面倒向漢軍。此時距離全軍出動，也才僅僅過去了十餘日而已。而根據斥候的探報說，下邳、彭城間常有人馬往來，顯然正在做重大的決策調整。這都是司馬懿的功勞。
龐統對關羽進言說：“元帥，徐州本非吳人之土，乃曹賊滅亡之際，孫權無奈而佔。這些年，他數來淮北，卻不舉一戰，可見並無死守之意。而眼下淮南有十萬吳軍雲集，卻不敢邁入淮北半步，就是孫權膽怯的明證了。他既不敢前來救援，便唯有退！也就是讓淮北的吳賊都退回淮南。我軍大可以提前在淮水一帶設伏，必有斬獲！”
關羽大感所見略同，撫髯笑道：“誠如士元所言，徐州已入我囊中！”
龐統說了個大略後，關羽心中很快就有了一個周翔的計劃。當日下午，他就召開軍議，先向司馬懿遣使提出三策，分別是設浮橋，懸鐵索，打木樁，旨在將吳人水路徹底癱瘓。而後又從軍中調出四萬人馬，分為三隊，由趙雲、吳班、黃權三人率領，令其火速前往曲陽、海西、陵縣一帶，提前堵住吳軍南撤的官道。最後命楊阜與郭淮、廖化三將，率眾自西南兩面攻打彭城，自東北面放開退路，逼迫吳人下撤軍的決心。餘下大部則監視淮南，防止孫權做奮死一搏的可能。
這番佈置寫成文書後，次日又交到劉燮手中，劉燮審視良久，不禁與周不疑笑道：“我這位元帥叔父，往年都以武勇聞名，誰知他用兵也彷彿孫吳啊。”周不疑細看之下，也找不出什麼破綻，也隨之讚歎說：“元帥身居德才兼備，我自愧不如。”
劉燮聽出他是在諷諫司馬懿一事，微微一笑，擺手說：“仲達這件事，就不用再勸了。打仗本就不能用常理度之，何況先帝對江左已仁至義盡，但孫氏執迷不悟，那也就不得不為了。”說罷，就令人傳書相山大營，說此策甚好，望立刻執行。
實際上關羽也沒有等劉燮的手書，在文書上交的同日，楊阜等人就開始正式圍攻彭城。
這天天氣陰沉灰暗，有薄霧瀰漫。漢軍寅時就已經出陣，在城下緊鑼密鼓地運送衝車、雲梯等攻具，由於視線不佳，很多漢軍都打了火把，在清晨中像是點點熒光環繞，但因人數太多，遠看就連成一片，好似連薄霧都是焰色的一般。城上的吳人士兵很早就看見了這幅場景，心中自然是惶恐不安，立馬去通報主將焦觸，而焦觸的第一反應，便是遣使去下邳求援。
可漢軍不會等待吳人的援軍，在霧氣消散，天地間露出坦蕩的景象後，河邊便響起了隆隆的鼓聲，於是成千上萬的漢軍士卒就如同黑壓壓的螞蟻般，一步一步向彭城壓來。由於吳人少馬，不能出城突襲，所以漢軍甚至沒有像往常一樣先起土山，而是直接領了數十臺發石車在城前停駐，只要重甲的步卒結好了陣勢，後面的發石車就信步跟上，打算向城中拋擲石塊。
吳人士卒見狀，紛紛向下拋射箭矢，霎時間箭如雨下，令人喘不過氣。但是一連吳人一連射了小半個時辰後，城下結陣的漢卒中雖有不少人身上插滿了箭矢，好似刺蝟一般，但因此而死的卻不過十之一二。其餘人依舊推動發石車前進，並滾來數十塊打磨好的圓石用作破城。城南的三十輛發石車停在門前數十步，隨鳴鏑同時而作，大石破空，應聲而撞。而在這一日內，漢軍也沒有任何絲毫節制的意思，竟將準備的兩千塊滾石盡數丟擲，巨聲隆隆，好似怒潮摧蹦，天翻地覆一般。不過短短三個時辰，彭城的南牆便因此出現了大量缺口，有些部位因摧毀過甚，已有傾塌之像。
而當夜漢軍收兵，細數一日的損失，受箭傷計程車兵雖然不少，大約有兩千餘人，可大多都是外傷，並無大礙，被射中面目的死者野菜堪堪過百而已。
吳人對此也心知肚明，當夜焦觸召開軍議，問眾將如何守城，多不能答。有人向焦觸低聲說：“如今袁使君已死，淮北已成孤軍，固守又能如何呢？我看孫使君也沒有死守的意思，不如早點撤軍，往南邊撤吧！”焦觸聽聞，立刻否決道：“我等去了南邊，定然就做了小兒走狗，將來哪裡還有自由？這不成。”但那人反駁說：“可若命都沒了，要自由何用呢？”焦觸黯然不語。
次日凌晨，下邳的劉曄遣使回信，信上只說了一句話：“三日之內，候君下邳，三日不走，我自南去。”焦觸不料劉曄竟如此果決，一時無語，最終只得同意南撤。
為了迷惑漢軍，這一日吳人徹日苦守，甚至還罕見地出城反擊，欲作摧毀石車之狀。關羽對此看得分明，立刻調騎兵迎擊，出來的吳人根本不是對手，只能留下數百具屍體匆匆後退。當日夜裡，他們就把城中的船隻都調了出來，轉移到泗水之中，草草裝了些糧食與箭矢後，其餘什麼也都顧不上了，近萬守軍就乘著夜色往南划船。第二天一早，漢軍再看彭城，只見破碎的城牆下，雖然還有千餘面旗幟，但裡面的軍人完全失去了蹤影。
但這完全落入了關羽的圈套內，他分兵兩千佔領彭城，由楊阜與郭淮統領大部，自己則率騎兵快速追擊焦觸水軍，焦觸剛抵達下邳不到一個時辰，下邳的守軍便遠遠望見了漢軍旗幟。
此時的劉曄也基本猜到了漢軍的佈置，但又能如何呢？不走也是死，走還有一線生機，還是趕快往南走吧！就在焦觸率眾趕到的當夜，劉曄連讓人休整的時間都不給，連夜撤出了下邳城，臨走之前，他將城池付之一炬，隨後頭也不回地沿祖水向東南狂奔。
戰事到了這個地步，徐州的歸屬已經註定，而唯一有懸念的，是漢軍能否提前截住吳人的淮北兵團。