黄维是彭德怀的“克星”，1932年工农红军进攻赣州，总指挥是彭德怀，但结果以惨败收场。对于攻打赣州的败仗，彭德怀至死也没弄明白，让他惨败的不是马昆，而是真正的对手黄维。此时的黄维才28岁。
黄维曾先后参加淞沪会战、武汉保卫战、缅甸反攻等，在抗日战争中立下赫赫功勋。其中淞沪会战号称"血肉磨坊"的罗店战役中表现异常神勇。
黄维女儿曾说：“罗店争夺战打了两个多月，四进四出，中日双方死伤两万余人。日本称罗店为‘血肉磨坊’，一点不为过。父亲临最前线指挥战斗，他在掩体里教导士兵在打枪的同时如何保护自己的生命。他还知道将士们长时间泡在积满脏水的战壕掩体里被蚂蝗钻咬，因为他也在战壕里。”
在正式出版的15种毛主席著作中，关于黄维的名字，毛主席曾提到144次，这是个惊人的数字。这也从一方面反映出毛主席对黄维军事才能的看重。