1954年10月31日，粟裕正式被任命为总参谋长，他当了4年的总参谋长，在1958年的时候由于种种原因，导致他受到错误夸大的批判，导致粟裕被扣上了「极端个人主义」的帽子，蒙受不白之冤。
1958年9月19日，粟裕被调任到军事科学院担任副院长兼党委第一副书记，负责学院的日常工作，此后粟裕一方面专心搞理论研究，一方面忙着为摘掉「帽子」而努力，可惜直到1984年粟裕病逝，他头上的「帽子」仍没有摘掉。
在粟裕去世之后，他的老部下王必成、张震等人仍在为帮助粟裕平反而努力，尤其是张震将军，他为粟裕平反发挥了关键作用，毕竟当时张震官至军委副主席，说话更有分量，他对粟裕更多的是感激之情。
作为粟裕的老部下，张震从粟裕身上学到了许多东西，也受到了粟裕的赏识和推荐，在红军时期张震在红三军团，粟裕在红一军团，两人直到抗战时期才有过联系，都在新四军之中工作。
不过由于粟裕工作繁忙，并没有见过张震，到了解放战争时期，张震被调入华东野战军担任第9纵队司令员，粟裕成为了他的顶头上司，两人这才见面了，此前张震对粟裕十分敬佩和仰慕。
粟裕考了张震几个问题，他都对答如流，给粟裕留下很好的印象，1948年春，部队改编的时候，粟裕留下张震给自己当参谋长，此后张震留在粟裕身边工作，协助粟裕指挥了诸多战役，张震学到了许多打仗的本事。
粟裕比张震大7岁，就把他当成了小兄弟和好朋友，对张震的军事指挥能力很认可，1948年9月，在济南战役中，粟裕干脆把具体指挥工作交给张震负责，这一仗打得很不错，仅用8天就打下了济南。
战后向军委汇报战斗情况的时候，粟裕没有独占功劳，把指挥情况进行了如实汇报，在粟裕的指导下，张震的指挥能力越来越强，可以指挥的人数也越来越多，张震的名气也越来越大。
1954年，粟裕出任总参谋长，同年12月，张震被安排到南京军事学院学习，由于成绩优异，毕业后张震留校任教 ，在1962年成为了院长，他为国防和军队建设培养了大批干部。
然而在特殊的十年里，1968年，张震受到冲击，在南京遭遇重大挫折，差点丧命，粟裕得知情况后立即打电话找到周总理，这才保住了张震的性命，张震在医院经过一个月的治疗才出院。
后来粟裕向军委提出，调张震到北京工作，得到了批准，主要是为了更好地保护张震，粟裕为张震所做的这些，他都铭记在心，1984年2月，张震得知粟裕病逝，悲痛万分。
1992年10月，张震出任军委副主席，后来时机成熟，张震提出为粟裕平反，1994年12月25日，【人民日报】和【解放军报】同时发表了一篇【追忆粟裕同志】的文章，署名是张震和刘华清这两位军委副主席。
张震在文章中描述了他与粟裕共同战斗的岁月，对粟裕的战功和人品做了全面的评价，指出了之前对粟裕错误的批评，正式为粟裕平反恢复名誉。
