1945年8月15日，日軍天皇向世界宣布投降。1945年9月2日，在停泊于東京灣的密蘇裡号上，日本外相重光葵和陸軍參謀長梅津美治郎在投降書上簽了字。連年抗戰，外侮投降，全國人民一片歡騰。
1945年10月，為了防止内戰，和平建設中國，毛主席為首的共産黨代表團帶着最大的誠意，與國民黨代表團進行和平商談，并簽訂了《雙十協定》。不久，蔣介石就撕毀了這一協定。在美國的支援下，國民黨将軍隊火速運往華北、東北及中原地區，搶奪城市管轄權與戰略物資。另外，蔣介石政府暗中訓示日軍不準向共産黨軍隊投降和移交物資，并授意僞軍盤踞各據點負隅頑抗，等待國民黨軍隊進駐，為挑起内戰做準備。
在這個背景下，賴在高郵的日軍居然拖到12月還不投降！抗戰打了14年，日本殺我同胞，罪孽深重，此時蔣介石卻與日寇穿了一條褲子，簡直滑天下之大稽！
高郵駐有日軍1000餘人，僞軍5000餘人，且城牆高大堅固，河流湖泊環繞，日軍在此苦心經營多年，防禦工事完備。對于高郵之日軍，我新四軍早就下了限期投降的通牒，他們卻仗着地險城固和重兵在握根本不理，還叫嚣：隻向國民政府繳械，新四軍沒有資格受降！這還不夠，日軍還出城攻打新四軍，企圖配合國民黨軍隊進攻蘇北解放區，達到撕裂華中解放區的目的。
對于鬼子的倒驢不倒架，粟裕聞訊大怒：豈有此理，拔掉它！粟裕親自部署并做戰前動員，下令先行打掉外圍據點圍城，再進行總攻。後勤方面，百姓們踴躍支援，出動1.5萬名民工及500餘條民船運送彈藥、糧食等物資；地方機關除了組織後勤工作，還對敵人工事和火力進行了暗中偵查，并組織了3000餘人民兵參戰。
12月19日深夜，華中野戰軍6、7、8縱兵分三路直指高郵。粟裕指令部隊自東、西、北進攻，唯獨對南面“網開一面”。次日中午，敵人一部拼死向南突圍，被早就埋伏的7縱一部圍殲1000餘人；掃蕩外圍據點時，僅剩的淨土塔寺十分堅固、火力兇猛，戰士們靠着屢試不爽的用方桌和濕被子制作的“土坦克”，逐漸推進，切斷了塔内和高郵之間的供給，炮兵不間斷轟擊，終于拿下，至此外圍據點全部肅清。21日，日軍組織力量對我軍封鎖線拼死沖擊，企圖打開缺口，死傷慘重，毫無奏效。
此後，剩餘的日僞軍龜縮與城内，不再出城，而是加強工事，利用機槍和火炮向我軍射擊。粟裕指揮部隊使用麻袋裝土，壘砌高台後在上面架設機槍與敵人對射，化解地理劣勢。
對陣期間，我軍用大喇叭不斷播放日本天皇的投降诏書，還播放了日本歌曲，并利用弓箭、迫擊炮、風筝将大量傳單撒進城内。思鄉的歌曲和漫天的傳單，讓城内的日軍心神不甯，對于瓦解敵人鬥志，我軍攻心戰起了很大作用。
25日，新四軍3個團分3路對高郵發起總攻，火炮猛烈轟擊城内，戰士們架起雲梯自豁口登城，手榴彈不停的甩出。先行登城的少部分戰士與敵人拼起刺刀。大部突進城内後，戰士們不斷穿插、迂回，清掃城内碉堡和火力點，與敵人展開激烈巷戰。26日，日軍司令部被完全包圍，猖狂的日軍司令岩崎大佐仍意圖反抗，我軍立即表示：放下武器，否則全部消滅！如若投降，将按照俘虜政策處理。
岩崎眼見大勢已去，終于低下頭，接受了我軍的受降儀式，這也是中國土地上日軍最後一個投降儀式。有意思的是，粟裕将軍悄悄的混在受降儀式的人群中觀看，第三日岩崎知道此事，才畢恭畢敬的将戰刀奉送給粟裕将軍。
毛主席說“槍杆子出政權”，此言非虛，就連受命投降的日軍，不迎頭痛擊，它也不會願意心服、繳械。
此役，我軍全殲日軍1100餘人、僞軍4000多人（均含俘虜）,繳獲各種火炮80餘門,槍6000多支。高郵戰役的主要意義是，擊碎國民黨攻占蘇皖解放區的企圖，使蘇中、蘇北、淮南、淮北地區完全連成一片，為後續粟裕将軍創造輝煌的“七戰七捷”提供了土壤。