1954年10月31日，粟裕正式被任命為總參謀長，他當了4年的總參謀長，在1958年的時候由於種種原因，導致他受到錯誤誇大的批判，導致粟裕被扣上了「極端個人主義」的帽子，蒙受不白之冤。
1958年9月19日，粟裕被調任到軍事科學院擔任副院長兼黨委第一副書記，負責學院的日常工作，此後粟裕一方面專心搞理論研究，一方面忙著為摘掉「帽子」而努力，可惜直到1984年粟裕病逝，他頭上的「帽子」仍沒有摘掉。
在粟裕去世之後，他的老部下王必成、張震等人仍在為幫助粟裕平反而努力，尤其是張震將軍，他為粟裕平反發揮了關鍵作用，畢竟當時張震官至軍委副主席，說話更有分量，他對粟裕更多的是感激之情。
作為粟裕的老部下，張震從粟裕身上學到了許多東西，也受到了粟裕的賞識和推薦，在紅軍時期張震在紅三軍團，粟裕在紅一軍團，兩人直到抗戰時期才有過聯系，都在新四軍之中工作。
不過由於粟裕工作繁忙，並沒有見過張震，到了解放戰爭時期，張震被調入華東野戰軍擔任第9縱隊司令員，粟裕成為了他的頂頭上司，兩人這才見面了，此前張震對粟裕十分敬佩和仰慕。
粟裕考了張震幾個問題，他都對答如流，給粟裕留下很好的印象，1948年春，部隊改編的時候，粟裕留下張震給自己當參謀長，此後張震留在粟裕身邊工作，協助粟裕指揮了諸多戰役，張震學到了許多打仗的本事。
粟裕比張震大7歲，就把他當成了小兄弟和好朋友，對張震的軍事指揮能力很認可，1948年9月，在濟南戰役中，粟裕幹脆把具體指揮工作交給張震負責，這一仗打得很不錯，僅用8天就打下了濟南。
戰後向軍委匯報戰鬥情況的時候，粟裕沒有獨占功勞，把指揮情況進行了如實匯報，在粟裕的指導下，張震的指揮能力越來越強，可以指揮的人數也越來越多，張震的名氣也越來越大。
1954年，粟裕出任總參謀長，同年12月，張震被安排到南京軍事學院學習，由於成績優異，畢業後張震留校任教 ，在1962年成為了院長，他為國防和軍隊建設培養了大批幹部。
然而在特殊的十年裏，1968年，張震受到沖擊，在南京遭遇重大挫折，差點喪命，粟裕得知情況後立即打電話找到周總理，這才保住了張震的性命，張震在醫院經過一個月的治療才出院。
後來粟裕向軍委提出，調張震到北京工作，得到了批準，主要是為了更好地保護張震，粟裕為張震所做的這些，他都銘記在心，1984年2月，張震得知粟裕病逝，悲痛萬分。
1992年10月，張震出任軍委副主席，後來時機成熟，張震提出為粟裕平反，1994年12月25日，【人民日報】和【解放軍報】同時發表了一篇【追憶粟裕同誌】的文章，署名是張震和劉華清這兩位軍委副主席。
張震在文章中描述了他與粟裕共同戰鬥的歲月，對粟裕的戰功和人品做了全面的評價，指出了之前對粟裕錯誤的批評，正式為粟裕平反恢復名譽。
