1946年6月下旬，解放战争全面爆发，蒋介石在各处战场调兵遣将，企图对我党各解放区逐一攻破，在华东战场，蒋介石调集了50万大军向苏皖解放区扑来。
在苏中方向，粟裕与谭震林指挥华中野战军与4倍于己的敌人展开激战，七战七捷歼敌五万余人，取得了苏中大捷，尽管在苏中战场连战连捷，但是在其他方向上华中野战军却遭到了不小的挫折。
7月底，淮南解放区被国民党军队全面占领，8月底整个淮北又被占领，到了9月19日，苏皖解放区的首府淮阴城失守，粟裕为此陷入了痛苦的煎熬当中。
短短几个月之间，华中战局形势迅速恶化，因为失利原因华中野战军主力只能被迫北移，苏中地区就这样成为了敌占区，在苏北地区，除了涟水、阜宁、盐城、沭阳等四座县城还在解放军手里外，其余地方全部沦陷。
国民党数十万大军从南北两个方向以半月状呈包围之势，由于解放区地盘被压缩地厉害，内线作战的战场变得十分狭窄，十分不利于解放军的运动战模式。
对于华中野战军的窘态，国民党各级将领非常自得，认为华中野战军最多也就能坚持三个月的时间，国民党军认为，华北的新四军主力已经无力与他们抗衡，苏北地区的战斗接近尾声，他们将目光转向了山东地区。
随后蒋介石与陈诚等人重新调整了部署，在各个方向轮番进攻，企图将华中解放区和山东解放区分割开来各个击破，将新四军主力彻底消灭在华中一带。
针对国民党的进攻，中共中央军委在10月15日发给陈毅、粟裕的电报中特别指示：
蒋方计划引我去山东，我久不去，乃决心与我在淮北决战，此种情况于我有利，望你们集中山野、华野全力歼灭东进之敌，然后全军西渡收复运河，于2至3个月内务歼薛岳7至10个旅，就一定能转变局势，收复两淮，并准备将来向中原出动。
接到命令之后粟裕便开始调兵遣将，10月19日，山野和华野的主力部队刚刚集结在涟水以北的沭阳、宿迁一带，张灵甫便率领着整编74师全部主力和整编28师第192旅，总共3万余人兵分三路朝涟水城扑来。
涟水城在淮阴东北方向，两地只有30余公里，向南就是淮安，是苏北地区的重要门户，更是连接山东解放区和苏中地区的枢纽，战略地位非常高，国民党不会放任这颗「钉子」在这里，因此派出了王牌之一的74师。
整编74师是国民党军队当中的「五大王牌主力」之一，全部是美械装备，全师连排级军官均是军校毕业，兵员多是抗日战场上走过来的老兵，训练有素，是蒋介石的头等主力，号称蒋介石的「御林军」，解放战争爆发以来，74师在两淮地区连战连胜，为此整个部队气焰嚣张、飞扬跋扈，师长张灵甫更是骄傲自满，认为解放军主力不值一提。
其实早在两淮被攻占之后，蒋介石就提出要将整编74师调回南京城修整，但是张灵甫却提议要将时间往后延一延，他想要趁我军在宿北地区集结立足未稳之际一举夺取涟水，彻底将两个根据地之间的联系封死，为此他在蒋介石面前夸下海口要打完这最后一仗才回南京。
在10纵和11纵的节节阻击之下，张灵甫的部队直到10月21日才逼近涟水城下，值此危机时刻，粟裕下令11纵不惜一切代价要坚守涟水城，同时命令华野主力第1师、第6师、9纵全速南下支援涟水，寻机将74师歼灭在涟水城下，21日晚，粟裕也率领华野司令部一部赶往涟水前线。
接到命令之后，王必成立即命令部队轻装前进，全师强行军向涟水出发，仅仅两天时间行军110公里，在23日拂晓时分，6师先头部队18旅赶到了涟水城北地区。
涟水城处于废黄河和盐河之间，城南和废黄河之间有三道堤，第一道是内堤，地势比较低接近河床，第二道是大堤，高度比涟水城墙还要高出些许，第三道是护城堤，比第二道要低得多，涟水南门有一条大路直通废黄河渡口，由于城内房屋松散，对于巷战来说非常不利，因此涟水城的防线只能是扼堤而守，一旦大堤被突破，那么涟水城将无险可守。
张灵甫战前也了解过涟水城的地势，因此城南被他当成了突破口，为此他将74师以及192旅的炮兵部队全部抽调到了城南，22日，在全部炮火的掩护下，51旅强渡废黄河，攻占了涟水城南的渡口并站稳了脚跟，虽然11纵先后调来了两个团想要将敌人赶出去依旧无济于事。
23日凌晨，74师在火炮与空军的支援下向涟水城发起了进攻，第一道内堤守军虽然浴血奋战，但在74师的冲击之下只能被迫放弃第一道堤，退守到大堤。
23日下午，张灵甫再次发动总攻，至黄昏时分，涟水城南、西南的第二道大堤阵地被突破，74师逐渐逼近涟水城垣，57旅171团的一个加强连甚至靠着夜幕和炮火的掩护偷偷爬进了城内，战斗进入到白热化阶段。
就在这危急时刻，6师18旅的官兵们在三发信号弹的引领下发动了反攻，74师攻城部队被这支突然出现的生力军打蒙了，仓皇逃出涟水城，一直退守到第一道内堤处。
24日凌晨，不甘心失败的张灵甫直接将麾下三个旅全部拉了出来，在飞机大炮的掩护下向涟水发动了猛攻，但是这一次他遇到的是华野王牌第6师，王必成与张灵甫在第二道大堤防线处硬碰硬地来了一场，一方势在必得，一方寸土不让，整个大堤都被鲜血染红了。
从凌晨开始，张灵甫一共发动了八次进攻，始终无法突破6师防线，最后只能退回到滩头阵地，当晚，粟裕下令发动全线反击，经过数小时激战，74师的滩头阵地被突破，损失惨重只能退回到河南岸，三道大堤又重新回到了我军手中。
此战57旅的两个营因为撤退不及时被我军全歼，许多国民党官兵淹死在了冰冷的河水中，6师16旅一位叫茅永年的班长甚至只身活捉了74师的一个副团长和83名俘虏，让解放军士气大振。
张灵甫不甘心这么窝囊的失败，将192旅调了过来换下了伤亡惨重的51旅，25日白天，张灵甫卷土重来，第一道内堤很快被突破，但是第二道大堤和第三道护城堤牢牢地掌握6师手中，当晚，解放军继续全线出击，192旅被打得落花流水，国民党军队纷纷南撤。
26日，国民党军队因为损失惨重，呼叫空中支援，随后涟水城外围阵地迎来了敌人飞机、大炮的狂轰滥炸，为了避免不必要的损失，6师被调回到后方修整由10中接替防御任务。
28日，华中野战军主力全部赶到，粟裕下达了全歼74师的命令，30日，各部队全线出击如下山猛虎一般扑向了74师，张灵甫见势不妙立即后撤，至此第一次涟水保卫战胜利结束。
对于第一次涟水保卫战，粟裕后来会议说这次战役基本上是一个消耗战，但是这一战打得74师大伤元气，也让我军取得了打大仗、恶仗、硬仗的经验，保住了涟水城，使得华中区领导机关顺利向山东转移，具有很大的战略意义，更重要的是这一战也为后来的宿北战役胜利创造了条件。
11月28日，蒋介石和陈诚拟定了一份作战计划，集结25个半旅的部队组成4路大军，企图彻底占领陇海铁路，切断苏、鲁联系，从而可以集中兵力围歼粟裕所部。
为了打破蒋介石的合围美梦，粟裕等人决定主动出击，首选目标就是刚刚从中原调来的戴之奇的整编69师，为此共调集了3个纵队加2个师，而与此同时，张灵甫也带着74师外加2个旅朝涟水扑来。
由于陈毅和粟裕都在北线准备苏北战役，因此坐镇南线抵御国民党进攻的任务就交给了谭震林，张灵甫二次进攻涟水依旧嚣张不已，谭震林决定硬碰硬地来一场，他将王必成的6师摆在了涟水南面，正面对决74师。
然而这一回无论是谭震林还是张灵甫，他们都低估了张灵甫的决心，狡如狐的张灵甫在南面的攻击都是佯攻，真正的攻击目标放在了涟水城西面。
当涟水城南的战斗进行得如火如荼时，张灵甫率领着74师主力绕道从西面直扑涟水，其实在这之前，华中野战军的无线电侦查人员曾侦听到74师搜索营从涟水西面发出的无线电信号，但是没有引起涟水城的警觉，等到74师出现在城西时为时已晚。
12月14日拂晓时分，74师主力忽然从城西出现，第一道防线很快就被突破，傍晚时分，74师的主力部队已全部渡过废黄河，王必成连忙抽调16旅返城，战机稍纵即逝，74师动作非常迅速，当天夜里张灵甫就集中优势兵力向城西第二道防线展开全面进攻，多处阵地被突破，涟水城形势危急。
15日上午，奉命支援的6师16旅赶到，但是74师无论是兵力还是火力都占据了绝对上风，王必成亲自赶来督战，靠着一波波的敢死队冲锋硬是将74师赶了下去，由于形势严峻，谭震林又命令 6师18旅回援涟水。
在城外指挥的张灵甫看到自己的进攻部队被6师敢死队赶了下来，立马明白城内的兵力肯定不足，战场形势稍纵即逝，张灵甫立即命令城西和城南两大攻击集团集中全部炮火猛轰城西阵地，在数轮火炮攻击之后，74师以营、团为单位，发动了凶狠的集团冲锋。
刚刚将敌人打退下去的16旅还没有缓口气，74师的敌人又冲了上来，双方在大堤处展开了惨烈的白刃战，依靠火力兵力优势，涟水城西防御阵地多处被攻破，战火烧到了涟水城内。
由于涟水城内房屋不是很密集，巷战很不好打，加上74师手里有美式火焰喷射器和巴祖卡火箭筒等装备，解放军在城内的抵抗只能是节节败退，15日下午，守城部队先后撤出了涟水城，第二次涟水保卫战结束。
张灵甫虽然在第二次涟水战役中笑到了最后，但是两次涟水之战让整编74师元气大伤，第一次涟水之战中就伤亡了5000多人，第二次又是4000多人，整个74师伤亡近1/3，基层战斗骨干损失惨重，也为后来的孟良崮战役埋下了伏笔。
第二次涟水战役是王必成在解放战争期间跌得最狠的一个跟头，差点将他撤职查办，但需要说明 的是，6师虽然没有守住涟水，但是却完成了预定的战略任务，迟滞敌人北上增援，保障宿北战役的胜利，并大幅度地消耗了敌人的有生力量。
涟水虽然丢失，但是在宿北战场上粟裕指挥部队全歼了整编69师2万多人，粟裕对此也曾经说过：整编74师被我军阻住六塘河以南，无法救出整编第69师，从南线保障了宿北战役的进行；毛主席也发来电报说：关系全局的宿沐前线……取得大胜，涟水暂失，不足为患。
涟水之战后，张灵甫对此仍心有余悸，让他没有想到的是华野的主力部队虽然装备无法与74师相比，但是战斗意志丝毫不弱于74师，涟水之战让他领教了王必成的厉害，张灵甫在发给胡琏和方先觉的电报中夸赞了我军的战略战役战斗等诸多方面都要优于国民党部队，还说74师因为北调增援山东，南调增援两淮，伤亡过半，已无决战之能力，若继续如此，不出一年就将死无葬身之地。
让张灵甫也没想到的是，他在电报中所说的这一切都应验了，甚至都没用一年，他就和自己的整编74师在孟良崮被全歼了，战后74师被俘的军官们一致认为涟水之战后74师元气大损是这次覆灭的重要原因。
74师作为国民党五大王牌中第一个被全歼的部队，也是天时地利人和都在解放军这边才造成的这种局面，而粟裕也因为「火中取粟」而被大家推崇备至！
