1954年10月31日，粟裕正式出任總參謀長，然而在戰場上無敵的大將軍，在和平時期的工作中卻遭受到諸多質疑，1958年，在軍委擴大會議上，粟裕受到了猛烈的批判，其中聶帥怒批他野心太大。
當時粟裕受到的批判是被擴大化的，是錯誤的，不過他擔任總參謀長期間在工作中確實出現了一些問題，其中有三個問題比較典型，被人羅列了出來，第一個問題就是不尊重領導。
1951年9月，粟裕從蘇聯治病歸國，隨即就被任命為副總參謀長，協助代理總參謀長聶榮臻處理工作，當時正值抗美援朝時期，總參謀部的工作十分繁忙，許多事情都是粟裕直接向毛主席匯報的。
粟裕的工作能力多次得到毛主席的表揚，後來粟裕直接出任總參謀長，而代理總參謀長的聶帥卻未能轉正，如此一來兩人之間的關系就變得有些微妙了，聶帥被調去主管軍工生產和軍隊的裝備工作。
然而粟裕擔任中樞要職之後，他跟時任國防部長的彭德懷相處得也並不好，按照職權劃分，彭德懷是粟裕的頂頭上司，然而粟裕在工作中卻幹了不少越俎代庖的事，典型的事件就是策劃攻打馬祖列島，即第二個問題。
1955年，當時在計劃解放福建沿海馬祖列島，粟裕把計劃報告給了時任國防部長的彭德懷，得到了批準，可是之後粟裕就召集南京軍區和福建軍區的副司令皮定均一起開會，提出了登島作戰計劃。
彭德懷得知訊息後感到奇怪，解放馬祖列島還只是在醞釀階段，並沒有計劃實施，事後一查發現國防部和軍委都沒有下這樣的命令，是總參謀部下的命令，這是不符合規定的，事情說大可大，說小也小。
後來又發生了粟裕向蘇聯總參謀長要資料的事，即第三個問題，粟裕要的資料是關於國防部和總參謀部職權劃分的相關資料，1958年粟裕受批判時，有人就把這件事拿出來，指責粟裕跑到國外去找依據。
1958年，在軍委擴大會議上，眾人對粟裕的批判可以概括為：「一貫反領導、向黨和國防部要權」，當時陳毅元帥、彭德懷元帥等人陸續對粟裕進行了批評，一向溫文爾雅的聶帥也批評了粟裕。
聶帥怒斥粟裕的所作所為證明他有野心，說：「如今你作為總參謀長，不僅僅是要權的問題了，是大盜盜國。」聶帥的批評把問題說的更為嚴重了，不少人也跟著一起批評粟裕。
後來粟裕寫了8次檢討，陳毅帶頭鼓掌表示透過，如此粟裕才算勉強過關，此後粟裕被調往軍事科學院當副院長，晚年粟裕一直在為摘掉頭上的「帽子」而奔走，聶帥成為了繞不開的一個當事人。
晚年粟裕登門拜訪聶帥，聶帥熱情接待了粟裕，並誠懇表示自己當年說話太重了，讓粟裕不要往心裏去，說：「等材料到了我這裏，我會給你簽字的。」聶帥的話讓粟裕心裏暖暖的。
可惜由於種種原因，雖然聶帥簽字了，但是粟裕平反一事遲遲沒有落實，直到1994年，由時任軍委副主席的張震和劉華清聯名發文，才為粟裕平反，恢復了名譽，此時距離粟裕去世已經10年了。
