1948 年11 月6 日，淮海戰役正式開始，當時國民黨以徐州為中心的兵力部署情況是：黃百韜的第七兵團防守徐州以東的隴海線為東線，孫元良的第十六兵團駐守徐州西面作為西線；馮治安的第三“綏靖”區的軍隊放在徐州東北面的閤兒莊、棗莊地區擋頭陣；邱清泉的第二兵團和李彌的第十三兵團居中策應；李延年的第九“綏靖”區和劉汝明的第四”綏靖”區，分佈在徐州的東西兩側，以劉峙、杜聿明為首的徐州“剿總”駐守徐州指揮。
從整個兵力部署看，黃百韜的5 個軍從徐州以東到東海邊，沿隴海路擺開，夾在山東和蘇北兩解放區之間，所處位置比較分散和孤立。中央授予以鄧小平為書記的淮海戰役總前委臨機處置一切的權力。根據中央的指示精神，總前委確定了第一階段的作戰部署：華野及中野一部共7個縱隊，在徐州以東割裂、圍殲黃百韜兵團，並阻止位於黃百韜以西的李彌第十三兵團東援。中野分為兩部，一部以鄧小平、陳毅指揮，舉行徐蚌會戰，切斷津浦鐵路徐州南至蚌埠的聯繫；另一部由劉伯承指揮，遲滯由西南方向而來的黃維第十二兵團。華東野戰軍在中原野戰軍的配合下，於11 月6 日向淮海戰場挺進：7 日，橫掃隴海路北側的敵人；10 日，切斷了黃百韜西逃之路，將蔣軍第七兵團合圍在一個叫碾莊圩的狹小地區內。
黃百韜被圍，蔣介石急了，特派他的得意門生杜聿明到徐州實施前線指揮，又調邱清泉、李彌、黃維等兵團火速去救。這樣，蔣介石將淮海戰場上的蔣軍兵力加至80 萬人。黃百韜兵團號稱華東勁旅，確實難打。華東野戰軍在粟裕的指揮下，於11 月12 日對其展開攻擊。毛澤東在14 日曾猜度“黃兵團本日大約可解決”。可是，由於黃百韜負隅頑抗。直到19 日才攻下碾莊圩。21 日黃昏，絕望中的黃百韜決定突圍，剛出門，就被擊中，倒地死了。黃百韜兵團5 個軍10個師共12 萬人馬全部被殲。當粟裕聽到黃百韜被殲的消息時，腦袋立刻一歪就暈過去了。若千年後，粟裕還說：“圍殲黃百韜，上至中央軍委，包括毛主席，下至我們，都對黃百韜的戰鬥力估計不足！後來我們碰了釘子，可又不敢向主席叫苦，只有豁出命來打，根據倖存者當年事後回憶說：“黃百韜兵團難打啊..咱們的部隊是踏著血往前衝啊！到處都是躺著的人..犧牲的同志沒個數啊！”但是，圍殲黃百韜兵團的勝利，是淮海戰役我軍的關鍵一仗，此仗的勝利結束，使蔣介石的部署全部成為被動的了。
解放軍圍殲黃百韜兵團的作戰節節勝利，和截斷蔣軍戰略中樞成功，使徐州的劉峙集團完全陷入孤立，面臨著全軍覆沒的危險，蔣介石和他的國防部驚恐萬分，急令黃維，李延年兩兵團馳援徐州。黃維兵團是蔣介石的嫡系精銳部隊，共12 萬人，裝備精良，具有較頑固的作戰特點。如能殲滅蔣介石的這支王牌軍隊，勢必將加速整個戰役的進程，對解放中原有重要作用。因此，總前委決定以中原野戰軍為主，不惜一切代價，與黃維決一死戰。當時戰場上的態勢是，從徐州到蚌埠，由海州至商丘，蔣軍南北對進、東西呼應的4 個兵團，都被我軍重兵阻滯。
唯獨這個黃維兵團，在戰場上得以左右闖蕩，似乎無人敢與其爭鋒，沿公路浩浩蕩蕩地北進。其實，這正是總前委為它安排的誘軍之計。在黃維兵團中，也是戰將如雲、謀士成群的。有人就面對戰場形勢，憂心忡忡地對黃維說：“共軍作戰向來是在各自戰場上行事，而今我軍如入無人之境，會不會是中了劉、鄧的誘軍之計？終於 11 月19 日，黃維兵團進到南坪集附近時，遭到我軍阻擊，傷亡頗大；其主力部隊強渡澮河，企圖速援徐州。
當黃維渡河後，才發現這裡有解放軍的大縱深陣地，便於11 月23 臼下午令其主力部隊向南岸退縮。而此時，我中野四。九。十二縱隊由東。北向西、南壓縮；六縱和陝南十二旅由南向北壓縮；一、二、三縱隊由西向東壓縮，8 個縱隊所構成的巨大包圍圈，再加上華野的七。三和十三縱隊協同作戰，在11 月24 日發動全線出擊，到12月2 日，已把黃維的12 萬人馬包圍在以雙堆集為中心，東西20 裡、南北15裡的包圍圈內。當中野六縱司令員王近山向總前委報告，已把巨大的袋形攻勢的最後口子紮上的時候，鄧小平愉快地點燃了一支香菸，露出了難得的笑容。
劉伯承興奮地說：“黃維這12 萬兵馬，被圍在20 里長，15 裡寬的地段上，這極好算帳，平均每500 米長寬的地段上，就有400 多個敵人官兵，任何一炮下去，都要傷著敵人。” 鄧小平說：“黃維兵團，是白崇禧指揮下的精銳師團，號稱攻如猛虎，守如泰山；靜如處子，動如脫兔..”他站起身來，在作戰室裡走了個來回，“我倒要看看他守著這兩個尖谷堆，怎麼樣攻如猛虎，動如脫兔？
黃維兵團被圍後，蔣軍曾多次向解放軍陣地猛攻，企圖衝破包圍圈，其中尤以27、28 兩日的攻擊為激烈。劉怕承根據鄧小平、張際春等人的意見，果斷地命令中原野戰軍部隊猛力合圍，並死死圈住敵人。劉怕承、鄧小平指揮中原野戰軍發動了對黃維兵團的陣地殲滅戰。殲擊黃維兵團是一場硬仗。本來，中原野戰軍在躍進大別山及戰略展開時，已付出了很大的代價，部隊拖瘦了，現在再來打黃維，的確很艱鉅。但是，鄧小平堅決地說：”消滅了江北敵軍主力，我們就可以打過長江去，解放全中國。即使把中野全部打光了，全國各路解放軍仍可以順利奪取全國勝利，這個代價是划得來的！”中原野戰軍指戰員經過浴血奮戰，前赴後繼，終於完成了對黃維兵團的壓縮，使其兵團部核心陣地完全暴露在中野的火力之下。
終於在當日24 時全部殲滅蔣軍精銳黃維兵團10 萬餘人，生俘副司令長官吳紹周、兵團司令長官黃維。當黃維、吳紹周、王元直等國民黨高級將領在淮海戰場上被俘後，他們是終日惶惶不安，不知所從。
然而，出乎他們預料的事情發生了，作為對手的鄧小平、劉伯承、陳毅、張際春等我軍高級將領竟來看望他們了，這是他們絕沒有想到的事。黃維拉著劉伯承司令員的手，激動得久久說不出話來。
黃維等俘虜暫時住的是農家小院，房東大爺教過幾天小學。在農村算個“聖人”，見劉伯承、鄧小平、陳毅與黃維、吳紹周、王元直等作如此交談、弈棋，也感慨地說：我這三間草房，來了這麼多國共兩黨將領，真是“群賢畢至，寒舍生輝”啊，圍殲黃維兵團對整個戰役起了關鍵作用，並且生擒國軍精銳機動兵團中將司令長官。
