豫湘桂戰役爆發後，湯恩伯手握數十萬重兵卻不戰而逃，河南許多城鎮相繼落入敵手，許昌戰役就是在這種背景下爆發的。1944年5月，日寇出動了2萬多人向許昌發動了猛攻，守衛許昌的部隊是國軍新29師，全師雖然下轄3個團，但總兵力卻僅有3000多人，和一個旅的規模差不多。面對敵強我弱的不利局面，師長呂公良和副師長黃永淮毫無懼色，率部和日軍展開了血戰。
黃永淮是四川安嶽人，畢業于黃埔5期。抗日戰争全面爆發後，黃永淮出任88師第524團團長，随部隊一起參加了淞滬會戰。戰鬥中，黃永淮率全團向日軍主力所在的虹口區右翼發動猛烈進攻，在炮兵的配合下，先後攻取了五卅公墓、粵東中學和日海軍操場等據點。戰鬥中黃永淮身先士卒，沖鋒陷陣、奮勇殺敵，并寫下了“踏平三島方雪恨，罷官歸耕夙願成”的詩句，全團士氣受到極大鼓舞。
之後黃永淮率部轉移到寶山和吳淞一帶駐守，先後打退了日軍數次進攻，戰鬥中黃永淮被敵人子彈擊中，身負重傷，被送往醫院治療。他的職務由中校參謀主任謝晉元繼任。謝晉元到任後立即率部進駐四行倉庫，成為了名揚中外的民族英雄，而黃永淮卻因傷錯過了這個機會。傷好後，黃永淮又參加了不少戰役戰鬥，因功被提升為副師長。
1943年5月29日，許昌戰役爆發，日軍長野師團從北、南、西三面向許昌發起了猛攻。雖然敵我兵力相差十分懸殊，但全師官兵同仇敵忾，死戰不退，30日下午6點左右，日寇依仗強大的火力攻入城内，黃永淮率部和日軍展開了激烈的巷戰。戰至31日拂曉時，全師官兵僅剩下了數百人。黃永淮與師長呂公良決定率部突圍，突圍途中，呂公良戰死，黃永淮左腿被日軍炮戰炸傷，不幸被俘。
黃永淮被俘後，日寇準備将其押解到于莊。途中，黃永淮目睹日軍的種種暴行，勃然大怒，他趁敵人不注意，突然從一個日軍軍官手裡奪得一支手槍，當場打死了5名日寇，然後舉槍自盡，年僅42歲。黃永淮犧牲後，國民政府為了表彰他的功績，追認他為陸軍少将。