1948年12月16日，隨著國民黨軍第12兵團在雙堆集被人民解放軍全殲，第12兵團司令官黃維也成了我軍的俘虜。
黃維
黃維被俘之初，身份並沒有暴露，我軍登記人員問他：「你叫什麽名字？是幹什麽的？」
黃維回答說：「我叫方正馨，在12兵團14軍擔任上尉文書。」
登記人員又問：「上尉文書月薪多少？」
「這，這……」黃維急得直撓頭，好半天才吞吞吐吐地說：「我的記性太壞，忘了，好像是60元吧！」
「你說得不對。」登記人員見黃維一直用右手把左手的衣袖往下拉，便對他說：「請你把左手的袖口卷起來。」
原來黃強的左手手腕上戴著一只歐米茄手表，登記人員問他：「看來你這位上尉文書家裏很有錢，不然你就是兩年不吃飯，也積攢不了這塊表的錢。」
黃維連忙狡辯：「這是我一個親戚送的。」
3天以後，登記人員找來了一個叫李永誌的戰士，他曾給黃維開過幾年的小汽車，剛從國民黨軍隊中投誠過來。李永誌圍著黃維繞了一圈又一圈，最後肯定地說：「他就是黃維！」
盡管被我軍識破了身份，但黃維始終表現出一副不合作、不配合的態度。中原野戰軍聯絡部長楊松青動員第12兵團的高級將領給被圍在陳官莊的杜聿明、邱清泉寫勸降信，國民黨第85軍的參謀長陳振威寫好了信，請大家簽名，只有黃維堅決不簽。
杜聿明
幾天以後，一個年輕的新聞記者前來采訪黃維，他問道：「你為什麽不早些投降？」
黃維把桌子一拍，大吼起來：「只有戰死的烈士，沒有茍活的將軍，我為什麽投降？為了國家民族的利益，我要戰鬥到一兵一卒……」
記者也火了：「你代表什麽國家民族？你只代表封建官僚，代表四大家族！」
「你胡說八道！」黃維準備沖上去打這位記者，還好被眾人攔住了。
黃維本以為自己兵敗被俘後，一定會受到解放軍的嚴懲。但事情卻出乎他的意料，他被轉移到井陘看守所，不僅沒有受苦，在生活上還處處受到優待。黃維每頓飯都是三菜一湯，一個星期還配給5斤白面，這樣的夥食在當時已經相當不錯了，作為對比，看守所的工作人員一個月才能吃一次面粉。
在這段日子裏，黃維整天無所事事，每天不是借幾本舊書來看看，就是翻翻解放區的報紙，他的心情雖然不好，日子倒也過得安穩。
新中國成立後，黃維被轉移到了位於北京的功德林戰犯管理所改造。改造初期，黃維走路始終挺著腰桿，將軍風範絲毫不失，他留起了胡子，自稱「在國民黨時期留的胡子，不能在共產黨的監獄裏剃掉」，他還在隨身的本子上寫下了於謙的【石灰吟】和文天祥的【正氣歌】以自勉。
功德林戰犯管理所
有一次，黃維的妻子蔡若曙前來探監，她給黃維做了很豐盛的飯菜。吃飯時，蔡若曙勸黃維好好改造，爭取早日特赦，不料黃維聽後大怒，他直接把筷子摔在桌子上，並斥責妻子說：「從現在起，我不吃你做的飯，你也別來看我！」
功德林戰犯管理處對戰犯的改造抓得很嚴，戰犯被分成若幹個小組，要定期參加有組織的學習。很多戰犯都努力學習，積極改造，比如杜聿明在讀了【論持久戰】後，就寫下了1萬余字的讀書筆記，他還要求把自己的筆記寄給蔣介石。但黃維始終拒絕寫任何悔過書，他說自己「無罪可悔」，唯一慚愧的是十幾萬大軍在自己的領導下潰敗，因此他也成為了管理人員眼中「拒絕改造」的典型。
有一天，管理處組織戰犯學習揭露四大家族剝削壓迫中國人民的書籍。黃維所在小組的副組長董益三把學習內容領讀完以後，黃維馬上站起來說：「我不同意這本書的說法，什麽國民黨的中央銀行、中國銀行、交通銀行、農業銀行都是四大家族的，都是蔣介石一家的？按照這種言論，那麽共產黨現在不是有個中國人民銀行麽？這個銀行也就是毛澤東一家的！」
黃維
董益三等人聽後大怒，他們一起批駁黃維，還要求他寫書面檢查，但黃維卻無動於衷。這天午飯後，黃維拿出自己的筆記本，坐在桌子跟前寫了起來。同組的梁培璜以為他在寫檢討材料，於是湊過來看，卻發現本子上寫了一句打油詩：
龍困淺灘遭蝦戲，虎落平陽被犬欺。
這下可把同組的人給氣壞了，他們仗著人多勢眾，向黃維動了手，黃維也主動還擊，卻因為用力過猛摔倒在了地上，臉也被刮破了。
管理處的領導聞訊後馬上趕來，制止了這起鬥毆。領導了解了事情的經過後，分別找黃維和董益三進行了談話，他指出黃維的發言「觀點是錯誤的，要繼續學習，明辨是非」，也批評了董益三：「你雖然堅持了正確觀點，要求進步是對的，但身為副組長，動手打人，並不能表明進步，只能表明落後。」
1952年4月，黃維患上了急性腹膜結核和腹膜炎，他的肚皮腫脹得老高，兩條腿腫得發亮。戰犯管理處第一時間把他送到了醫院，並為他安排了單間居住。
當時治療結核病的藥物如鏈黴素和青黴素，國內還不能自主生產，只能依靠進口，所以黃維治病所需要的藥物都是公安部的衛生機構派人到香港和澳門買回來的。黃維住院期間，生活完全不能自理，就連大小便也不能下床，都是由管理員負責照料。時間長了以後，黃維也感到十分感動，思想上也逐漸不那麽抵觸改造了。
盡管此後黃維有所轉變，但他的表現總的來說還是很不好。1959年，政府決定對戰犯實行第一批特赦，黃維心想自己的改造表現並不好，特赦人員肯定不會有自己，所以心裏倒也坦然。
但黃維不知道的是，周恩來點名要特赦他，因此他最初也上了首批特赦人員的名單。但這個決定被戰犯管理所給頂了回去，管理所的領導認為黃維根本沒有改造好，如果特赦他的話，其他沒得到特赦的戰犯肯定不服。因此黃維最終沒有得到特赦。
周恩來
1968年4月，黃維被轉移到撫順戰犯管理所繼續接受改造。黃維剛來撫順時，整天愁眉苦臉，也不和別人說話，經常唉聲嘆氣。管教劉家常看在眼裏，急在心裏，他經過幾天的細心觀察，發現黃維每次上廁所的時間特別長，而且大便中還有鮮血，他猜想黃維可能患有痔瘡，便抓了幾副治療痔瘡的中藥送給了黃維。
黃維十分感動，終於向劉家常敞開了心扉，他說：「我胸口悶，手指尖發麻，已有半年多的時間了，我恐怕活不了多長時間了……」
劉家常馬上把黃維的病情報告給了所裏的領導，領導非常重視，特地把沈陽的專家請了過來，專家經過診斷後說：「黃維如果再不治療，也許只能活半年的時間。」
專家們迅速給黃維做了手術，並治好了他的痔瘡病。此後黃維的心情明顯地好了起來，他也不再躲避管教人員，有的時候還主動請纓，幹些力所能及的活。
有一天，劉家常把黃維叫到了辦公室，問他最近學習怎麽樣，有什麽想法沒有。黃維思考了半天，最後終於鼓足勇氣說：「我在北京研究了多年的‘永動機’，一直沒有試驗，我想請示政府同意我試驗‘永動機’。」
「永動機」模型
原來當年在井陘看守所時，黃維整天在茅草屋裏待著沒什麽事，經常看到外面有人來附近的水井裏打水，他看得久了，便產生了奇想：重力是無處不在的，他要設計一種發動機，把重力變成動力，那麽這部機器可以永遠自動運轉，這是一項可以改變世界工業的革命！
黃維到功德林後，向管理處要求給予他一定的研究條件，遭到了理所當然的拒絕。黃維卻不放棄，他又委托張治中把申請從事此項研究的報告帶給中科院，幾個月後，中科院回復他說：「這種機器叫‘永動機’，早已被科學證明是絕對不可能的，所以這項工作沒有意義。」
但黃維仍不死心，他又找來了大量關於自然科學的書籍，繼續研究著「永動機」，他的行為也被管理人員認為是「不務正業」、「拒絕改造」，這成為了他沒能得到首批特赦的一個重要原因。
劉家常聽完黃維的請求後，感到十分為難，但為了不打擊黃維好不容易才培養起來的積極性，他還是把此事報告給了所裏的領導，最終所裏也對此事表示支持。黃維得知這一訊息後，十分高興，他很快就把試驗計劃寫了出來，然後利用電機廠的材料把「永動機」造了出來。
「永動機」工作了幾天後，慢慢地停了下來。黃維卻不泄氣，他先後制造了4個「永動機」，一個比一個大，失敗也一次比一次慘。在他去世以後，一台兩噸半的「永動機」仍然躺在他家的地下室裏。後來拍攝電影【大決戰】時，導演和演員們出於好奇，專門來黃維家參觀了這個「永動機」，這個碩大的家夥，著實把大家嚇了一跳，眾人異口同聲地說：「難以想象，難以想象！」
經過27年的改造後，在1975年3月19日，黃維終於得到了特赦。此時黃維已經是個71歲的老人了，當他拿到最高人民法院發給他的特赦通知書後，不禁回到房間失聲痛哭……
黃維接過特赦通知書
黃維被特赦後，本想回到江西貴溪的老家，和妻子一起安安靜靜地度過晚年，但中央批示他留在北京，任全國政協文史專員，享受政協委員待遇，並對他格外照顧，每月發給他薪金200元。1978年3月，黃維又被推選為全國政協常委。
黃維被特赦後，台灣方面曾向他許諾，補發他自1948年以來共27年的薪金，條件是他必須離開大陸到第三地。黃維卻拒絕了，他說：「共產黨對我有恩，一是沒有殺我，二是把我的家人照顧得挺好，兒女們都受了教育。」
1985年11月，黃維和夫人重遊撫順戰犯管理所。這天晚上，他謝絕了當地政府給他安排的賓館，住進了當年管理所為他治病的房間，他說：「在這個房間生活了好幾年，使我的靈魂得到了徹底的洗禮，使我獲得了重新做人的機會。」
晚年的黃維不僅專註於全國政協文史資料研究委員會的工作，他還積極利用自己的身份，為兩岸的溝通聯系而奔走，他多次往返於香港和大陸，漸漸和台灣的一些舊友取得了聯系，他曾多次對故舊說：「趁我生活尚能自理，神智亦還清明，一定要為和平統一祖國的神聖事業獻出綿薄之力。如不能達到此目的，我會引為終身遺憾的。」
晚年的黃維
1989年初，台灣方面透過民間渠道，邀請黃維去台灣存取。黃維欣然同意，他列出了要探訪的黃埔同學及好友名單，還準備去看望師母宋美齡以及陳誠的夫人譚祥。但正當他準備啟程時，卻在3月20日突發心臟病，不幸逝世，享年85歲。
黃維去世後，全國政協給了他這樣的評價：
為人耿直，尊重感情，個性剛強，生活儉樸，為人稱道。
