1945年8月15日，日本天皇宣佈無條件投降。但還有一些日寇不死心，負隅頑抗，想重新發起侵略戰爭。盤踞在高郵的日軍也是，想“東山再起”。

高郵有着很重要的戰略意義，它位於華中解放區南線，京杭大運河東岸。高郵北扼兩淮，南控揚州，是蘇中連接蘇北的水陸交通要道，被稱爲“運河大門的鐵鎖”，自古就是兵家必爭之地。

駐守在高郵的日軍是巖崎大佐的部隊，爲了徹底消滅他們，華中野戰軍司令員粟裕於12月19日親自指揮部署，發動了“高郵戰役”。他制定了作戰計劃：第七縱隊的一部分兵力攻打邵伯，主力則在揚泰線以北、邵伯以南地區，阻擊前來支援的敵軍；第八縱隊攻打高郵外圍後攻城；華中軍區特務團攻打車邏。當晚七點，新四軍在距離高郵東西20公里、南北40公里處同時發起進攻。到了第二天中午時分，高郵城外的據點，除了東門外，其餘的全部被我軍清除。

21日，在粟裕的指揮下，我軍拿下了邵伯等日僞據點，從而切斷了高郵日僞軍的後路。但高郵城外還有一個據點——淨土塔寺還沒有攻下，這座古寺是明朝萬曆年間修建的。日軍佔領高郵後，就把這裏變成了一個瞭望塔和軍事制高點。由於淨土塔寺很高，居高臨下，火力還非常猛，我軍很難攻下。

原新四軍第八縱隊68團參謀邢繼剛回憶說：“我們把溼棉被和方桌裹在一起，當作土坦克，以掩護我軍前進。我軍一步步逼近淨土塔寺，消滅了塔內和高郵之間的供給，配合炮兵，才讓塔內的鬼子投降。”至此，我軍包圍了高郵城。可龜縮在城內的日僞軍卻依然不投降，還把城樓上的守衛換成了日軍，不斷加固防禦工事。

22日早晨，粟裕來到位於高郵外東北角的村子，和第八縱隊的司令員陶勇一同觀察了高郵城外的地形，兩人商討了具體的作戰方針。我軍攻下外圍後，還搞起了政治攻勢。發起總攻前，粟裕命人對城內的日僞軍喊話，讓他們投降；讓戰士在城外放日本民歌，勾起日軍對故土的思念，從而摧垮日軍的鬥志；用風箏和迫擊炮散發宣傳單，讓他們投降。這些措施持續了三天，對動搖日僞軍的軍心起到了很大作用。

25日晚上，粟裕下令發起總攻。天空下着雨，不利於攻城，但我軍不畏困難，從西北、東、南三個方向同時發起猛烈進攻。高郵的城牆非常堅固，爲減少我軍戰士的傷亡，粟裕下令在東面開闊地帶用麻袋裝滿泥土，築起“半月形”工事。然後在上面架起輕重機槍，與城牆上的敵軍形成平射，壓制敵人火力的同時，掩護攻城部隊。

26日早上，高郵城內的日僞軍繳械投降。至此，抗日戰爭的最後一仗，以中國的勝利告終。據瞭解，此戰殲滅了日僞軍共6000多人，俘虜敵軍4400多人。被日軍佔領了六年的高郵城終於回到了中國的懷抱。

值得一提的是，巖奇大佐在受降儀式後，十分莊重地將一把紫光閃閃的指揮刀交給了粟裕。他向粟裕鞠了一躬，說：“這是我家祖傳的紫雲刀，現敬獻給久仰大名的您。”粟裕僅用了一週的時間，就收復了高郵城，把日軍打服了！