1946年底，山东野战军和华中野战军在宿北战役大获全胜后，又迅速发起了鲁南战役，目的是消灭敌人在枣庄、峄县等地的主力部队。
鲁南战役分两个阶段展开，第一阶段是集中兵力歼灭敌人的整编26师和第1快速纵队，第二阶段是围攻枣庄、峄县，消灭敌人的整编51师。
敌人在枣庄、峄县等地的部队，原本是从台儿庄地区进入解放区，意图占领临沂，威胁山东解放区的首府。临沂对于解放区来说，具有重要的政治和军事意义。
敌人的整编26师和第1快速纵队作为中路突击部队，想要直捣临沂，但是南线的33军和北线的整编51师却被宿北战役的惨败吓住了，不敢跟进。于是，陈毅、粟裕首长决定利用这个机会，调动山东野战军的1纵、4师、9师、8师、警备旅，和华中野战军的陶勇1师，先后歼灭了敌人的整编26师和第1快速纵队，然后再根据情况，选择歼灭敌人的33军或整编51师。
为了执行这个作战计划，部队分为左右两个纵队，左纵队由叶飞1纵和陶勇1师组成，由陈毅、粟裕直接指挥，右纵队由4师、9师、10师、8师和警备旅组成，由王建安指挥。
左右两个纵队同时向南线和北线发起攻击，迫使敌人的33军和整编51师、52师、整编26师、快速纵队撤退到枣庄、峄县等地。在短短的42小时内，就成功地消灭了敌人的整编26师和第1快速纵队。
第二阶段的战斗，是围攻枣庄、峄县，歼灭敌人的整编51师。敌人的33军在南线被打得溃不成军，而敌人的整编51师、52师的一个团，和整编26师的第1快速纵队的残余部队，都退守到枣庄。上级命令调动陶勇1师、8师、警备旅、4师、9师，对枣庄、峄县的敌人进行围剿。
按照作战部署，8师负责攻打峄县城，陶勇部负责攻打枣庄。枣庄是敌人的重要据点，防御工事十分坚固，是日伪时期修建的，不容易攻破。陶勇部打了五天，也没有攻下来，损失了不少战士。陶勇是个敢打硬仗的将领，从不轻易认输，但这次他也有些心灰意冷，向粟裕请示是否可以暂停进攻。
为什么打了五天还没有攻下枣庄呢？原因就在于部队缺乏攻坚战的经验。在抗战时期，部队主要打的是游击战，很少接触城市攻坚战，不懂得如何有效地破坏敌人的防御工事。
粟裕听了陶勇的请示，就向叶飞征求意见。叶飞1纵原本是华中部队，1945年12月本来要北上东北，后来因为形势变化，就留在山东，编入山东野战军。他们刚到山东的时候，也不懂得攻坚战，经过几次战斗，才发现攻坚战的关键是爆破，因为部队没有重武器，只能靠炸药包来炸开敌人的工事。
叶飞1纵在攻坚战上积累了不少经验，这一点粟裕非常清楚。叶飞说，他建议继续攻打枣庄，不能让敌人占了便宜。他还说，他的1纵在打枣庄的时候，也接到了打齐村的任务，齐村也是一个攻坚战，他只用了一个旅的兵力，就很快攻下了。他建议把他的2旅调给陶勇，让他指挥，继续打枣庄。叶飞还亲自到陶勇的指挥部，劝他不要气馁，要坚持打下枣庄。他还告诉他，攻坚没有什么秘诀，就是要会爆破。
叶飞把他打齐村的经验和方法，都告诉了陶勇。粟裕也调来了有攻坚经验的8师，和叶飞的2旅，配合陶勇的部队，从四个方向同时进攻枣庄，最后终于攻下了枣庄。
鲁南战役共歼灭敌人5.3万余人，缴获了大量的武器弹药。
战役结束后，叶飞对粟裕说，打攻坚战，一定要学会爆破技术，他们到山东打仗，就是跟着山东部队学习爆破技术，才能打好攻坚战。
