但凡受到蒋介石重用的人，要不就是出身黄埔，要不就是浙江同乡，又或是毕业于保定陆军军官学校。如果不具备其中一个条件，那么是很难跻身蒋介石嫡系的。当然，特例也是有的，比如黄百韬就是其中之一。
黄百韬祖籍梅县，1916年他中学毕业后投靠了北洋军阀江都督军李纯。李纯死后又转投山东军阀张宗昌，因其作战勇猛，担任团长。蒋介石北伐期间，就曾吃过黄百韬的苦头，因此他对黄百韬的大名早有耳闻。
张宗昌兵败后，黄百韬投降了蒋介石，并受到了重用，一路加官进爵，历任参谋、旅长等职，不久又升任第41师师长。
1941年，黄百韬被何应钦举荐为顾祝同第三战区的参谋长，但由于他非黄埔军校的科班出身，始终得不到顾祝同的信任，后被顾外调，任第25军军长。不过这个25军是一支新组建的部队，属于典型的杂牌军，同时具有东北军、中央军和川军的背景。
但让顾祝同甚至是蒋介石没有想到的是，这支杂牌军在黄百韬的手里摇身一变，成了极具战斗力的部队。并在后来的浙赣江部队中表现突出。据战史记载，日军此役死伤官兵三万六千余人，日军第15师团师团长酒井直次中将被击毙。战后，蒋介石对黄百韬给予了高度赞扬，说他领导有方，指挥若定，浙赣会战之功不可没！
解放战争开始后，黄百韬率领的整编第25师被派往苏北解放区。这个整编25师下辖第40旅、第148旅和108旅。第40旅是由税务警察总团一部发展而来的，第148旅是原穿军范绍增部发展而来的，108旅则是东北军于学忠部发展而来的，因此也是一支地地道道的杂牌军。
整编25师的武器装备远远不如国军的王牌师，主要是抗战时期从日军方面缴获而来的。国民党军队一向以蒋介石的嫡系部队为主力和中坚，蒋介石手下有五大主力，分别是第74军，第18军，第5军，新1军和新6军，但黄百韬却以25师这样的杂牌军在蒋介石的几支王牌部队中占有一席之地，并且赢得了蒋介石超乎寻常的信任。
蒋介石为了方便黄百韬与自己会面，特地发给他一张总统府的特别通行证，黄可以在任何情况下直接进入总统府晋见蒋介石。即便是对于蒋的心腹亲信，这也并非是一项容易得到的待遇。
1946年黄百韬对苏北解放区发动进攻并取得不错的战绩，蒋介石对黄百韬也是越发信任，并让他重点进攻山东解放区。当时山东境内，还有国军王牌第74师和第83师。师长分别是张灵甫和李天霞。
不过，张灵甫和李天霞素来不和，而且他自恃是黄埔军校的高才生，又是“天下第1师”的师长，因此他也没有将黄百韬这位非正规军出身的将领放在眼里。
1947年1月，鲁南战役爆发后，张灵甫急于建功，凭着手里精良的装备一路突飞猛进，与其他友军的距离渐渐拉大，从而进入了解放军的包围圈。
精明的黄百韬察觉到情况有些不妙，赶紧给张灵甫发电让他注意进军速度。但张灵甫不顾黄百韬的劝告，继续挺进，终于在孟良崮山区被解放军主力团团包围。
74师陷入重围之后，蒋介石下令孟良崮附近的各路军队前往救援。但其他一些黄埔系的国军为了保存实力有意拖延，只有黄百韬率领他那支武器装备不算精良的25师全军出动，前往孟良崮。然而，黄百韬却还是迟了一步，当他达到孟良崮时，整编74师已经全军覆没。
孟良崮战役后，黄百韬虽然没有救下74师，但却得到了蒋介石的肯定，此后他的整编25师更受器重，并逐渐成为蒋介石“剿共”的主力军。
在此后的交战中，黄百韬也是最让解放军头痛的国军将领。豫东战役中，黄百韬出其不意杀到战场腹地，解放军措手不及，中野11纵遭受重创，解放军被迫撤退，损失颇重。
豫东大战后，蒋介石大为高兴，在南京来了庆祝会，表彰黄百韬，亲自为他戴上一枚青天白日勋章，这对于一位非黄埔系出身的将领来说，是从未有过的殊荣。随后，蒋介石又将第6军、13军和25军合编为第七兵团，破格将黄百韬擢升第七兵团中将司令官，黄百韬成为国民党军中唯一一个做到兵团司令的非黄埔系将领。
淮海战役爆发后，黄百韬的第七兵团参战。不过这次他却没有以往的幸运，他成为了解放军的第一个攻击对象。从1948年11月12日起，华东野战军调集整整九个军的兵力对黄百韬兵团发起猛攻，每天对碾庄阵地发射炮弹三万多发。
黄百韬一直坚持战斗，直至弹尽粮绝。11月22日，黄百韬兵团在碾庄被全部消灭，绝望之下的黄百韬从口袋里摸出一张照片，在背面写上：“黄百韬尽忠报国”几个字后，然后掏出手枪自杀，一代名将殒命沙场。
得知黄百韬自杀殉国的消息后，蒋介石悲伤不已，他呆立许久才缓缓说到：“得把黄百韬的尸体运回南京，我要隆重地开个追悼会”。在蒋介石的严令下，黄百韬的尸体终于被带回了南京。
1949年1月17日，蒋介石在南京为黄百韬举行隆重的国葬。在仪式上，蒋介石痛哭流涕，表彰黄百韬：忠勇壮烈，黄埔精神不死！并追赠为陆军上将。
蒋介石当然知道黄百韬不是黄埔军校毕业生，他之所以这样说，也许在他的心目中，早已将黄百韬这位心腹爱将视同自己的黄埔学生。