1946年12月，陈毅，粟裕率领的山东野战军和华中野战军在宿北粉碎了国民党军的进攻后，想要等张灵甫率兵北上，再打一场围歼战。但是让他们没有想到的是，山东方向形势突然告急，薛岳不甘心宿迁失利，命令马励武东进直插临沂，山东留守部队难以抵挡，败下阵来。陈毅粟裕迅速回兵鲁南，准备在鲁南围歼敌军。
当时薛岳指挥的部队有原东北军整编51师，西北军整编33军，还有中央军嫡系部队的马励武整编26师，并配属一个快速纵队。马励武所部还有配属他的快速纵队装备十分精良，配有坦克数十辆，大口径火炮上百门，汽车500百多辆，拥有很强的机动作战能力，这支部队也是蒋介石的心肝宝贝，整编26师师长马励武毕业于黄埔一期，颇受蒋介石的器重。
马励武率领所部攻击华野大本营的时候，听到戴之奇的整编69师被陈粟所部给歼灭了，自己也不敢继续冒进了，于是指挥整编26师和快速纵队在临沂西南的卞庄，向城等地转入防御，左翼的整编51师位于枣庄，齐村地区，右翼的33军59师，77师等部位于台儿庄以东地区。这支部队的左右两翼都是地方部队，和中央军的关系并不好，所以后来马励武被围的时候，这两支部队增援的力度并不大。
鲁南战役的时候，原西北军33军距离陈粟所部的距离最近，装备战斗力都不如马励武的整编26师和快速纵队，那么为什么当时陈粟不先打掉这支部队呢？其实原因很简单，因为当时张克侠，何基沣都在这支部队中，还不是让张克侠，何基沣起义的时候，以后另有大用。
宿北战役结束仅仅12天，1947年1月1日，让薛岳和马励武都没有想到的是，粟裕指挥大军向他们杀来了，当天参战部队就全部进入了阵地。1月2日晚，解放军突然对马励武所部发动进攻，3日，山东野战军和华中野战军将其分割包围，三日夜，解放军各部队开始了全面进攻，并在当晚歼灭了整编26师师部大部，使该师指挥系统瘫痪，乱成一团，驻守在太子堂的第44旅，还有驻守在卞庄的169旅 ，也被解放军歼灭。
1月4日，整编26师残部在快速纵队坦克大炮的掩护下，准备突围，但是让他们没有想到的是，当天雨雪交加，道路泥泞不堪，根本不能突围。9日晚，马励武被俘，国民党军整编26师残部及快速纵队也被歼灭，解放军迅速扩大战果，至20日，又歼灭了整编51师师部和两个团，师长周毓英被俘虏。
鲁南战役历时19天，解放军以伤亡8000余人的代价，歼灭国民党军两个整编师师部，四个旅，一个快速纵队共5.3万人，其中俘虏3.6万人。缴获坦克24辆，大口径的山炮，榴弹炮89门，汽车474辆以及各种火炮200余门（其中105毫米榴弹炮48门）。由于缴获的物资实在太多，华野组建了第一个特种纵队，极大地增强了部队的火力。
