1938年春，新四军第四支队奉上级命令，挺进至安徽省中部地区，开辟新的抗日根据地。
当时，合肥、淮南、巢县等多地已被日军占据，当地人民遭到日军的烧杀抢掠，受尽了侵凌。
然而，不少国民党部队惧怕日军，纷纷躲进大别山深处。一些地方官员也不管老百姓的死活，只知各自逃命。
地主、流氓、土匪则在各地继续作恶，甚至趁火打劫，干尽了残害老百姓的坏事。
新四军四支队第九团进入皖中后，眼看着这方土地被各种恶势力糟蹋成了一片凄山苦水，老百姓苦不堪言，个个义愤填膺。
在这样的情况下，政委高志荣（1955年成为开国少将）决定寻找机会跟日军打一仗，激发皖中军民的抗日信心。
考虑到当时正值国共合作时期，高志荣为推进抗日统战，前往国民党第二十七集团司令部，商议共同歼敌一事。
没想到国军虽然拥有充足的兵员数量和武器装备，却都患上了严重的“恐日症”，一听说日军来了就避之唯恐不及，还到处传播日军强大、抗日太难之类的怯战之论。
那些国民党军官见了高志荣，没说几句话就露出了假抗日的真实嘴脸，甚至对新四军流露出极度藐视之意。
高志荣对他们彻底失望了，愤然拂袖而去，临走时扔下一句话：“你们这些怯战畏敌之徒，好好看看新四军是怎么打鬼子的！”
回到部队后，干部战士们得知这件事，个个都气炸了肺，纷纷表示一定要打一个漂亮的胜仗，在痛击日寇的同时，也让国民党从此不看小看新四军。
过了几久，高志荣派出的侦察员回来报告了一个重要情况：巢县东南有个名叫蒋家河口的地方，日伪军每次“扫荡”都要经过那里。
高志荣觉得这个情报还不够详细，必须找到敌人的出行规律才有价值，因此让侦察员再次前往。
经过好几天的潜伏，侦察员们果然掌握了更多细节：敌人每天上午八九点钟乘坐汽艇出来扫荡，每次出动10至30人，到了中午就准时返回驻地。
更让高志荣欣喜的是，蒋家河口是一个非常适合打伏击的地点，那里的河道交错纵横，河岸边还有茂密的芦苇和杂草，便于我军隐蔽。
经过分析研究后，高志荣决定亲自带领一个多连的兵力前往蒋家河口设伏，狠狠地教训一下日军。
营长唐少田（1955年成为开国大校）说：“杀鸡焉用宰牛刀，就那么几十个鬼子，我带队就行了，不需要政委亲自出马。”
高志荣却说：“这一仗要对付的敌人虽然不多，却是我们新四军进入皖中地区的第一次对日作战，我必须做出表率！”
5月12日凌晨，高志荣亲自带领团部侦察队和二营四连来到蒋家河口，按照事先的部署分别进入了指定阵地。
在等待敌人出现的这段时间，干部战士们都严阵以待，决心一定要打好这一仗。
虽然所有人都做好了白跑一趟的准备，但让大家喜出望外的是，敌人果然出现了！
日上三竿时，东南方向的河面上突然传来一阵马达的嘟嘟声，紧接着两艘汽艇冒着烟开了过来，艇上还插着一面刺眼的军旗。
高志荣立即命令部队做好战斗准备，听他的号令行事。
汽艇越来越近了，日军士兵头戴钢盔、肩扛长枪，都是一副目中无人、不可一世的模样，还用手对着岸边指指点点，不时发出哄笑声。
当汽艇进入射程范围之内时，高志荣果断下达了开火的命令，一排手榴弹狠狠地砸了过去，紧接着战士们手中的步枪、机枪、手枪几乎同时喷射出愤怒的火焰！
汽艇的日军遭到这猝然一击，顿时乱作一团。他们想要逃，可是面对新四军指战员构筑的火力网，根本无路可逃。
没过多久，日军的汽艇就被手榴弹炸翻了，一部分鬼子被炸死，一部分鬼子中枪被打死，还有一部分鬼子跌落到水中，准备泅水逃走，却被岸上的新四军战士一一击毙或活捉。
由于地点选得好、战术运用得当，这场伏击战很快就结束了，汽艇上的24名日军全部被歼灭，而新四军无一伤亡，整个过程只用了20多分钟。
最让日军俘虏视为奇耻大辱的是，他们的军旗也成为新四军的战利品。要知道，日军重视军旗甚于国旗，一支部队丢了军旗，那可是要撤销编制的。这也是抗日战争中，新四军四支队缴获的第一面日军军旗。
客观而言，蒋家河口伏击战只是一场规模很小的战斗，歼敌人数也只有区区24名，但它在抗战史上的意义却非同凡响。
关键就在于，这是新四军挺进敌后对日作战取得的首场胜利，可以说是真正打破日军不败神话的第一仗，因而在抗战史上无可替代。
正是由于这个原因，此战结束后迅速在各个领域、各个群体当中产生了强烈反响，这个喜讯传遍了长城内外、大江南北。
各地群众得知新四军首战告捷，无不交口称赞他们为老百姓出了一口恶气。
新四军总部和四支队都对九团给予通令嘉奖，还专门为其印发一本宣传册，将他们作为抗日作战的榜样广泛宣传。
有意思的是，原本畏敌如虎的国民党政府迫于舆论压力，也不得不装模作样对九团指战员发来嘉奖令和贺电。