一战涟水，敌七十四师付出了7000余人伤亡的代价。张灵甫将失败归咎于王必成。据说，他当着部下发誓：下次打涟水，要用1000发炮弹打碎王必成。一战涟水，王必成也了解了敌七十四师的战斗力，他说：兵败而不山倒，两虎未擒一狼，姓张的有一套。
涟水之战一个月后，敌七十四师再犯涟水。此时，陈毅、粟裕正在北线准备宿北战役，坐镇南线的谭震林决定来个硬碰硬，将王必成第六师摆在涟水南面，对决敌七十四师。
1946年12月3日，敌七十四师在正面排开大量重炮，对解放军阵地猛轰，又用飞机投掷高爆炸弹。随后，坦克引导步兵向解放军阵地发动猛攻。经过两 日激战，第六师坚守的第一线村庄先后陷落。
12月5日夜，王必成发动反击，但被敌七十四师的重机枪击退。反击失利后，王必成迅速总结了经验教训，决定以坚 守消耗敌军。他将全师梯次展开，构筑了纵深的野战工事，节节抗击敌军进攻。
在9天9夜的血战中，第六师官兵始终将进攻之敌阻击在涟水南面。然而，张灵甫进 攻涟水南面仅仅是佯攻，正当第六师在涟水城南面苦战之际，张灵甫亲率主力绕道从西面直扑涟水。
14日拂晓，敌七十四师主力在城西突然出现，第一道防线当天 就被突破。傍晚，第七十四师的兵锋进至废黄河大堤。王必成急忙抽调一个旅返城。然而，张灵甫也集中重兵向第二道防线强攻，突破多处解放军阵地。
15日上午，奉命支援的我第六师十六旅赶到，王必成亲自赶赴城西前线，硬是把敌七十四师赶了下去。当夜，谭震林紧急命令我六师十八旅也回援涟水城。
然而，张灵甫抓住王必成援军未到的战机，集中炮火向解放军城西阵地猛烈轰击，后以营、团为单位连续发起集团冲锋。
15日中午时分，敌七十四师从涟水西门、南门先后突进城内。经受过严格巷战训练的敌七十四师，以班排为单位，充分发挥火焰喷射器和火箭筒的威力，与 解放军进行逐街逐屋的争夺。
在敌强我弱的形势下，解放军守城部队在当天下午先后撤退。我第六师主力撤出时，王必成被警卫员和参谋人员强架着北去。
第二次涟水之战，解放军共毙伤敌军8000余人，但自身也付出了重大代价，仅我第六师就有5000多名指战员血洒疆场。
涟水失陷，陈毅盛怒之下要将王必成撤职查办，但粟裕了解王必成，认为他是一员不可多得的战将，主张改为留职检查。王必成对陈毅、粟裕说：“日后打敌 七十四师，绝对不要忘了我王必成的六师!”粟裕当即表态：以后，凡我华东部队组织歼灭敌七十四师的战役，一定让六师参加，一定让王必成同志参加，并将此命 令记录存档。
