车桥镇驻扎着日军1个小队，约40人，伪军一个大队约500人；敌人在镇子上建有53座碉堡，构成密集的火力网；以车桥为中心，外围还有十几个坚固的据点。
车桥战役之前，粟裕经过长期酝酿、深入调查、周密策划，制订了一个详细的战役计划。再加上苏中主力部队已达到20个团，3万多人，士气正旺。只要指挥得当，车桥战役的胜利是有很大的把握。
粟裕最后确定的作战计划是：以7团负责主攻车桥；1团、三分区业务营、泰州独立团，担任两淮方向的警戒；52团、江都独立团、高邮独立团各一营，担任对淮安、曹甸、宝应方向警戒；以教导团1营、四分区特务团及炮兵大队组成总预备队。
1944年3月3日下午，担任主攻的7团分南北两路向车桥开进。北部部队在团长彭德清的率领下于5日凌晨1点50分之前到达车桥以北的攻击位置。南路由副团长张云龙率领也于北部部队同时间之前，到达车桥之西南。
就在一切按计划进行时，粟裕突然收到一份情报：日军百余人、伪军千余人向安丰据点增兵，有向东“扫荡”的态势；南面海安的敌人一部进占了李堡，也有向根据地“扫荡”的模样。
粟裕准备将计就计，在车桥战役发起前来个声东击西，吸引敌人的注意力，掩护车桥战役的突然性。粟裕派管文蔚率师直属机关一部分向北移，自己率另一部分向南转移，装出南北应击敌人“扫荡”部队的假象。
3月5日深夜，7团南北两路按原计划发起对车桥的进攻。新四军突然发起袭击，进展很顺利，仅20分钟就突破围墙，攻下10余座碉堡。占领了镇内的全部街道，将日、伪军分割包围。
经过大半天的战斗，新四军全歼了镇内的伪军，只剩下日军的工事之中的碉堡。下午3点，7团开始总攻日军的碉堡。
就在车桥镇内的战斗激烈的进行时，外围阻击打援的战斗也开始了。
刚过午后，驻曹甸、塔尔头日伪军百余人最先出动，行进到大施河，遭到新四军埋设的地雷，与新四军的警戒部队稍一接触，就退了回去。
下午3时，淮阴、涟水、淮安等地的日军，纠合伪军700余人，分批往淮安集结。第一批240余名日军乘坐7辆汽车，行进到周庄、芦家滩，进入新四军的伏击阵地。
一团、特务营和泰州独立团猛烈开火，迫使敌人进入预设的地雷阵地，当即炸死60多个敌人。
第二批、第三批增援日军各约百余人于下午4时、5时30分分别进入韩庄，与第一批残敌会合，当晚向新四军阵地进犯。
一团、特务营和泰州独立团的战士们从敌人的侧背奋勇杀出，与日军展开白刃战，刺死敌人30余名，击毙华北派遣军第62师团七十二旅团三泽大队长。
敌人伤亡惨重，向韩庄东北方向突围，在芦苇荡边，被新四军分割成三段，大部被歼灭。
6日凌晨3时左右，敌人的第四批增援部队约120人，乘两辆小车进入到小王庄、韩庄，与之前的残敌会合。
7日，车桥残敌在援军的接应下狼狈逃窜，早已准备好的宝应县40多个乡的民兵3万余人，迅速进入车桥镇，平毁工事，拆除围墙、碉堡。
曹甸、泾口、塔尔头、张桥的日伪军如惊弓之鸟，退守淮安。12日，苏中新四军收复直港、陆家庄等，13日又收复周庄。
车桥战役共歼灭日军460余人，生俘24人，歼灭伪军500余人，摧毁碉堡50余座。
车桥战役是攻坚与打援的双重胜利，通过此战打通了苏中与苏北、淮南、淮北战略区的联系，也是华中抗战史上对日军震动最大的一次攻势。
在战役中被俘的日军中尉山本一三说：这大概是你们新四军在江苏省和日军作战最大的一次胜利吧。
山本一三对粟裕透出了敬畏的声色，连声说道：你们的粟裕了不起！了不起！