孫立人感到不服，立刻反駁，導致場面一度變得非常尷尬。經過一段短暫的沈默之後，蔣介石揮了揮手，示意孫立人可以離開了。
對於一個軍人來說，被告知「不擅長作戰」無疑是極大的羞辱。孫立人憤怒到臉色蒼白，對自己的家人說道：「他（指蔣介石）怎麽能用‘不擅長作戰’這種話來刻意羞辱我呢！」
孫立人對政治形勢的敏感度很低，直到那時他還沒完全意識到事情的嚴重性。他也沒想到，那將是蔣介石最後一次召見他。過了一周多，由蔣經國負責的情報機關宣布破獲了所謂的「兵變案」，隨後立即將矛頭對準了孫立人，緊接著一網打盡的行動展開了。
孫立人以擅長訓練部隊著稱。
1947年8月，孫立人從東北被調走，擔任了國民黨的陸軍副總司令。有人認為，這是因為蔣介石對孫立人持懷疑態度，從而剝奪了他的軍權。
但這與事實不符。孫立人在1947年4月就被提升為東北保安副司令長官，僅僅四個月後他又成為了陸軍副總司令。在不到半年的時間內，他完成了從軍長到保安司令部副長官再到陸軍副總司令的躍升，這在蔣介石的將領中極為罕見。
很多人忽視了一點，那就是孫立人晉升為陸軍副總司令的同時，東北保安司令部被撤銷，而在上海休養的杜聿明失去了他的長官職務。有趣的是，蔣介石對這位學生並沒有任何表示。杜聿明整整閑置了一年，直到徐州「剿總」成立，他才得到了副總司令的職位。
孫立人有「善於訓練部隊」的美譽。在擔任稅警總團團長期間，他的團在各項考核中排名總團第一。即便稅警總團裝備精良、戰鬥力強大，但因不屬於中央軍，總被蔣介石視為次等。淞滬會戰後，蔣介石因稅警總團損失慘重，認為其難以為繼，指示原總團長黃傑將殘余部隊重組為一個師，並賦予中央軍的番號（即第40師）。
黃傑帶走了稅警總團的精英力量，對數千名傷員和體弱者不聞不問。這些身體康復的人無處可去。於是孫立人前往武漢，求助於宋子文，宋子文和孔祥熙商議後，為孫立人提供了一批裝備，讓他重建稅警總團。孫立人以被黃傑遺棄的稅警總團成員為骨幹，迅速重組了部隊，由於蔣介石已下令解散稅警總團，重組的部隊更名為「緝私總隊」。
經過兩年的艱苦訓練，到了1941年，緝私總隊已成為一支擁有六個團的精銳部隊，裝備先進、訓練有素，雖被視為雜牌軍，其戰鬥力卻不亞於國民黨的主力軍。
當戴笠擔任國民政府財政部緝私署長後，他派遣手下特務檢查緝私總隊，挑出許多毛病，其中一項居然是：「緝私部隊訓練得這麽好有什麽用？反正也不用去打仗。」
孫立人看著自己辛苦訓練出的部隊不僅無法保留，自己可能也將被迫離開。他更不能忍受的是，這支精銳部隊即將成為戴笠旗下軍統的看家護院「私兵」。大為不滿的孫立人，趁著去重慶的機會，正巧太平洋戰爭爆發，軍委會決定組建一支遠征軍，赴緬甸協助英軍作戰。孫立人找到軍政部長何應欽，自願帶隊出戰，何應欽正愁於拼湊部隊，自然欣然同意。
戴笠不情願地將緝私總隊中的三個團交給孫立人，編為新的第38師，派往緬甸前線。
第一次遠征緬甸失敗後，孫立人的新38師被調往印度的蘭姆珈訓練基地，開始接受美式裝備和訓練。在訓練期間，孫立人常親臨前線，親自指導官兵，迅速提高了該師的戰術水平。
新38師的表現使戴笠刮目相看。孫立人後來升任新一軍軍長，有次前往重慶公務，戴笠熱情款待，意圖拉攏。畢竟，對於新38師及新一軍的戰績，戴笠也可以拿來吹噓，畢竟這支部隊與軍統的緝私武裝有著不解之緣。
在離開東北之前，孫立人最多只指揮過一個軍。加上與杜聿明的不和，蔣介石對他的軍事能力評價並不高。然而，孫立人「善於訓練部隊」的名聲卻很響亮，蔣介石對此印象深刻。在孫立人晉升為陸軍副總司令後，蔣介石又指派他兼任陸軍訓練司令，這是蔣對他的重用。
蔣介石與孫立人的「蜜月期」
雖然孫立人獲得了訓練司令的頭銜，但實際上並沒有部隊供他訓練。作為陸軍司令部的副職，他實際上無權幹涉蔣軍的訓練工作。後來，在宋子文的推薦下，孫立人被派往台灣，負責改建和擴充套件原有軍事基地，招募和訓練新兵。
1949年1月，蔣介石暫時下台，離開南京前往溪口「遠端操控形勢」，在離開前對人事進行了大規模調整，其中一項就是讓他的親信陳誠擔任台灣省主席兼警備總司令。這時的台灣已經成為蔣介石考慮的最後退路，地位非常關鍵，掌握數萬新兵訓練的孫立人因此變得非常重要。
據蔣介石的長期侍衛長俞濟時回憶，蔣介石在上海被解放後，曾一度在舟山群島附近的軍艦上徘徊，不願前往台灣。原因是有傳言稱陳誠野心勃勃，似乎有意取代蔣介石。
陳誠長期受到各方面的攻擊，擁有眾多政敵。在過去，蔣介石絕不會相信這些傳言。但情況已變，沒有多少退路的蔣介石變得極其警覺，寧願信其有，也不願錯過任何風險。但不前往台灣顯然不是選項，這時蔣介石立即想到了孫立人。
蔣介石繞過陳誠，直接命令孫立人率部隊在基隆港口迎接他。見到孫立人時，蔣介石直接詢問：「孫司令，這萊恩全嗎？」
孫立人回答：「台灣並不歸陳誠管，誰敢多言？至於安全，只要我在，絕對沒問題！」
被譽為「小委員長」的陳誠，發現「委員長」到台灣居然沒有預先通知他，明白了蔣介石對他有所懷疑，於是急忙去見蔣介石，並進行了解釋。經過一段時間的觀察，蔣介石發現陳誠並沒有背叛的跡象，因此恢復了對這位親信兼「幹女婿」的信任。
這次事件讓陳誠不敢對蔣介石產生任何不滿，但他對孫立人的那句「台灣並不歸陳誠管」卻耿耿於懷，這句話深深地刺激了本就不夠寬廣的陳誠。
對於孫立人在基隆的迎接表現，蔣介石非常滿意，不久後便任命他為台灣防衛總司令。此時，孫立人、陳誠以及兼任國民黨台灣省黨部主任委員的蔣經國，成為了國民黨在台灣最有權力的三人。
在1950年，當顧祝同敗退到台灣之後，他遭受了許多人的彈劾。他之前擔任的陸軍總司令職位，後來由孫立人接替。到了1951年，孫立人晉升為國民黨的陸軍二級上將。
1947年3月時，孫立人還僅是新一軍的軍長。僅僅四年後，他就晉升為國民黨軍隊中的銓敘二級上將，並且還擔任了陸軍總司令和台灣防衛總司令的職位。這種快速的晉升，在蔣介石領導的黃埔軍校出身的將領中是獨一無二的。與此同時，孫立人在稅警總團服務時的上級，黃傑，此時僅為中將，並名義上是「國防部副部長」，同時被法國人限制在越南的富國島上。
孫立人雖然在台灣地位顯赫、權力巨大，但似乎與周遭的環境格格不入。逃亡台灣的國民黨軍政人員中，非蔣介石系的人物如白崇禧、薛嶽等都被邊緣化，他們也都明哲保身，保持沈默。掌握主要職位的是蔣經國系的人員和黃埔系的將領，而孫立人與他們沒有共同語言，並且不喜歡蔣經國系人員的作風。由於他性格直率，經常在公共場合表達不滿，很快就觸怒了許多人。
之前，老蔣還需要依賴孫立人訓練的新軍來保護自己的安全。但隨著中國大陸的完全解放和數十萬國民黨軍隊湧入台灣，老蔣對孫立人的態度開始發生細微的變化。孫立人畢業於美國軍校，不是黃埔軍校出身，不是江浙籍，也沒有在蔣介石擔任校長的陸軍大學等地學習，最初還是被分配到非正規部隊，顯然，他並不符合蔣介石選用人才的「標準」。
到了1953年6月，被軟禁在越南超過兩年的黃傑及其部份國民黨殘軍被陸續送往台灣。抵達台灣後，黃傑受到了蔣氏父子的熱烈歡迎，並不久後升為「陸軍二級上將」。
黃傑是黃埔軍校第一期的學生，與蔣經國關系非常好。蔣氏父子商議後，決定用黃傑來替代孫立人的位置。到了1954年，孫立人在完全不知情的情況下，突然被調任為名義上的上將參軍長，「陸軍總司令」和「台灣防衛總司令」的職位則由黃傑接替。
從理論上講，失去軍權的孫立人已不構成威脅，但這僅僅是打擊他的第一步。孫立人回憶，1955年5月28日，老蔣召見了他，這也是他最後一次與老蔣見面。
會談不歡而散後，老蔣還給了孫立人一個「打仗無能」的評價。孫立人回去後，對此深感不滿。這也顯示了孫立人在政治上缺乏敏感性，他沒有去探究老蔣召見他的真正目的，而是糾結於「是否真的不擅長打仗」的問題上。
一周後，老蔣計劃參加在6月6日於台南舉行的軍事演習。但在演習前夜，原本應陪同前往的老侍衛長俞濟時在家清洗槍支時意外走火，子彈擊中大腿，因而無法同行。
雖然意外走火的事情並非沒有發生過，但俞濟時的這一事件時間點非常敏感。已經掌握了一些「證據」的蔣經國，借此機會向老蔣報告了剛剛破獲的一起「兵變案」。長年累月跟隨老蔣的俞濟時，因這次難以說明的走火事件，被迫辭去了自己的職務，並提前退休。
蔣經國手下的情報人員聲稱，孫立人的舊部下郭廷亮、江雲錦等人，計劃在老蔣前往台南檢閱演習期間，發動兵變。
老蔣非常憤怒，命令蔣經國嚴查此事。很快，郭廷亮等一百多人被逮捕。經過審訊，直接將責任指向了孫立人。到了8月，孫立人正式被免去參軍長職務，一家人被趕出台北的官邸，轉移到台中一棟房子裏，開始了長期的軟禁生活。
台灣當局一直沒有對所謂的「孫立人案」作出最終的判定，導致孫立人沒有固定的收入，每月僅能領取少量的生活費。他需要負擔家庭生活，生活十分拮據。為了補貼家用，孫立人在家中種植玫瑰，讓家人拿去賣。當地人出於同情孫立人，紛紛購買，這些玫瑰花被稱為「將軍玫瑰」。
據孫立人的家人回憶，面對蔣氏父子的「不殺、不審、不問、不判、不抓、不關、不放」的政策，孫立人雖然心有不甘，但在公眾場合他選擇保持沈默。這段時間，孫立人更多是為了家人考慮，他不希望孩子們再受到牽連。晚年的孫立人，曾多次向家人提起他與老蔣1955年的最後一次見面，顯然他對老蔣的那句「你對於部隊訓練很好，但打仗不行」的評價始終無法釋懷。
1988年，在蔣經國去世不久後，孫立人結束了長達33年的軟禁生活，重新獲得了自由。但那時，他的健康狀況已經大不如前，兩年後就去世了。
2014年7月，台灣的監察機關確認郭廷亮當年是在刑訊逼供下被迫寫下的自白書，這項調查間接地為孫立人洗清了冤屈。遺憾的是，這一切已經發生了十四年後的孫立人無法得知。
