1902年,黃永淮出生在四川安嶽縣龍台鄉的一個貧苦農民家庭裡，為了出人頭地，改變命運。他一直刻苦讀書，孜孜不倦，學習成績非常優異。
1926年秋，他靠着當地富戶和堂叔黃爵的資助下，順利考進了黃埔軍校第五期。兩年後的夏天，他以第一名的成績從軍校畢業，接着被配置設定到了南京國父警衛團當見習排長。對于剛剛畢業的學生而言，這種安排絕對是當時最好的出路。由此可見，他确實是當時非常出類拔萃的優秀畢業生。
1929年，他所在的警衛團被擴編成警衛第一旅，他也被晉升為連長。 1930年，中原大戰打響，他跟随第一旅前往河南參加了這場戰争。戰後，第一旅被調回南京，并擴編為警衛第二師。第二師裝備精良，武器殺傷力強，而且士兵訓練有素，算是一個戰鬥力十分強的部隊。1931年12月，第二師又改編成了第八十八師，他繼續擔任連長。
1932年，淞滬抗戰打響，他跟随第八十八師參加了戰鬥，在捍衛閘北前線的戰鬥中，他率部勇敢地與敵人作戰，給日軍以沉重的打擊。他在戰鬥中用刺刀連挑3個日寇，赢得了整個團的高度贊揚。 1933年，他因其戰功被提拔為師團旗下一個營的營長。次年，他被提拔為第524團團副。
1937年8月13日，淞滬會戰打響，日寇大舉入侵上海，第88師率先與日本侵略者展開殊死搏鬥。他依舊帶領旗下士兵堅守閘北，對登陸的日寇進行了痛擊。
戰鬥持續了三個月，超過80萬的守軍無法抵禦30多萬日寇的進攻，最終不得撤退。第八十八師的大部分部隊跟着主力撤退，但仍留下一部分部隊繼續保衛閘北。第八十八師師長孫元良起初希望黃永淮率部留下來，但在告知他的前夕，黃永淮被子彈擊中了左眼角，身受重傷，緊急送往醫院搶救。
由于他身負重傷，師長不得不讓中校參謀謝晉元完成這項任務，帶領黃的部下堅守閘北。接到指令後，他立即帶領部隊進駐四行倉庫，一直堅守到最後。也正是因為他的堅守。他最終變成了聲名遠揚的民族英雄，但是卻很少有人知道黃永淮也是一位英雄。
1942年，周口警衛團擴編成新編第29師，由于迫切需要指揮人才，黃永淮被調往周口，并擔任新的第29師的副師長。
1944年初，日軍動員了14.8萬精銳和華北占領軍，發動了豫湘桂大會戰。日軍從北向南移動，率先到達河南，發動了豫湘桂戰役的第一期作戰。日寇來勢洶洶，在一周之内，他們占領了河南的9個縣城，日軍迅速攻擊到了河南省具有重要戰略意義的城市許昌。
當時，為守住許昌的戰略要地，作戰部打算用2個師的兵力來保衛許昌，然後在外圍部署七個師來牽制日寇。但是當指令被傳遞給戰區副總司令湯恩伯時，他為了儲存實力，隻派了新編第29師去保衛許昌。
這個師剛剛成立不久，在上個月的戰鬥中其中一個團已經損失慘重，隻有剩下的2個團還有戰鬥力，三千多人的師團要對抗日寇一個整編師團，這無疑是雞蛋碰石頭。即便是這樣，還是得硬着頭皮迎接敵人，保衛城池。
1944年4月，日軍第37師的主力部隊包圍了許昌。 4月30日黎明時分，日寇開始展開進攻。第29師同敵人展開了激烈的戰鬥，許昌保衛戰正式打響。盡管第29師人數很少，但所有人都是熱血戰士，日軍向前邁出的每一步都将付出巨大的人員傷亡。
在激烈的戰鬥中，黃永淮師長在前線指揮戰鬥。日本轟炸機和大炮晝夜轟炸他們，許昌城變得殘破不堪，随後，日軍的12架飛機，數十輛坦克和數十門火炮對着南門轟炸。
傍晚時分，日軍坦克通過炸毀的缺口駛入了城内。第29師的官兵們用大刀、步槍和日寇展開了殊死搏鬥。許多士兵身上綁着炸藥沖到了日寇的戰車上，和日寇的坦克同歸于盡。黃永淮的侄子也在這場戰鬥中。
黃正道帶領他的連隊往城牆缺口方向跑去，他們守住了缺口2個小時，敵軍敗退了好幾次，整個連隊最終在日寇的集中轟炸下，不幸犧牲，全軍覆沒。整整一天的殊死搏鬥，第29師成功抵擋住了比自己多四倍兵力的日寇。但是，由于沒有外部增援力量，也沒有内部兵力可以防禦，師長隻能讓大家突圍，
突圍過程中，副師長黃永淮帶着幸存的士兵突圍到了城外，當他們在外面突圍時，突然遭遇了關東軍第三聯隊伏擊，他們與日寇展開了激烈的戰鬥，2個團的團長相繼犧牲。
5月1日淩晨，黃副師長率領突圍部隊前往小王莊時，突然遭到日本迫擊炮炮轟。日軍猛烈轟炸了突圍部隊躲藏的地方，許多士兵英勇犧牲。此時，一枚迫擊炮彈落在離黃副師長不遠的地方。盡管他很快躲避了，但他還是被震得昏了過去。随後，他被日寇俘虜。
日軍用繩子捆住他，将其押送到于莊。他從颠簸的牛車中醒來，到達目的地後，他發現日軍在殺害戰俘，他看見此情此景怒火中燒。便趁着日軍來解開繩索的間隙，立即抓住了日軍的刺刀，一下子解決了這個日寇。
還沒等他們反應過來，他便用刺刀又解決了一個日寇。另一個日寇沖了上來，他迅速反應，一槍打過去，子彈從日寇的脖子穿過，又解決一個。這僅僅隻用了一分鐘，日寇們見狀紛紛目瞪口呆，他們反應過來，便端着機槍朝他猛烈地開火，身中十幾槍的黃永淮就這樣倒下了，壯烈犧牲，時年42歲。
他是最鐵血的師長，盡管他的事迹鮮少被世人知曉，但他英勇無畏的精神值得我們所有人學習，這種不向惡勢力低頭的頑強精神一直以來都是我們的榜樣。