但凡受到蔣介石重用的人，要不就是出身黃埔，要不就是浙江同鄉，又或是畢業于保定陸軍軍官學校。如果不具備其中一個條件，那麼是很難跻身蔣介石嫡系的。當然，特例也是有的，比如黃百韬就是其中之一。
黃百韬祖籍梅縣，1916年他中學畢業後投靠了北洋軍閥江都督軍李純。李純死後又轉投山東軍閥張宗昌，因其作戰勇猛，擔任團長。蔣介石北伐期間，就曾吃過黃百韬的苦頭，是以他對黃百韬的大名早有耳聞。
張宗昌兵敗後，黃百韬投降了蔣介石，并受到了重用，一路加官進爵，曆任參謀、旅長等職，不久又升任第41師師長。
1941年，黃百韬被何應欽舉薦為顧祝同第三戰區的參謀長，但由于他非黃埔軍校的科班出身，始終得不到顧祝同的信任，後被顧外調，任第25軍軍長。不過這個25軍是一支新組建的部隊，屬于典型的雜牌軍，同時具有東北軍、中央軍和川軍的背景。
但讓顧祝同甚至是蔣介石沒有想到的是，這支雜牌軍在黃百韬的手裡搖身一變，成了極具戰鬥力的部隊。并在後來的浙贛江部隊中表現突出。據戰史記載，日軍此役死傷官兵三萬六千餘人，日軍第15師團師團長酒井直次中将被擊斃。戰後，蔣介石對黃百韬給予了高度贊揚，說他上司有方，指揮若定，浙贛會戰之功不可沒！
解放戰争開始後，黃百韬率領的整編第25師被派往蘇北解放區。這個整編25師下轄第40旅、第148旅和108旅。第40旅是由稅務警察總團一部發展而來的，第148旅是原穿軍範紹增部發展而來的，108旅則是東北軍于學忠部發展而來的，是以也是一支地道地道的雜牌軍。
整編25師的武器裝備遠遠不如國軍的王牌師，主要是抗戰時期從日軍方面繳獲而來的。國民黨軍隊一向以蔣介石的嫡系部隊為主力和中堅，蔣介石手下有五大主力，分别是第74軍，第18軍，第5軍，新1軍和新6軍，但黃百韬卻以25師這樣的雜牌軍在蔣介石的幾支王牌部隊中占有一席之地，并且赢得了蔣介石超乎尋常的信任。
蔣介石為了友善黃百韬與自己會面，特地發給他一張總統府的特别通行證，黃可以在任何情況下直接進入總統府晉見蔣介石。即便是對于蔣的心腹親信，這也并非是一項容易得到的待遇。
1946年黃百韬對蘇北解放區發動進攻并取得不錯的戰績，蔣介石對黃百韬也是越發信任，并讓他重點進攻山東解放區。當時山東境内，還有國軍王牌第74師和第83師。師長分别是張靈甫和李天霞。
不過，張靈甫和李天霞素來不和，而且他自恃是黃埔軍校的高才生，又是“天下第1師”的師長，是以他也沒有将黃百韬這位非正規軍出身的将領放在眼裡。
1947年1月，魯南戰役爆發後，張靈甫急于建功，憑着手裡精良的裝備一路突飛猛進，與其他友軍的距離漸漸拉大，進而進入了解放軍的包圍圈。
精明的黃百韬察覺到情況有些不妙，趕緊給張靈甫發電讓他注意進軍速度。但張靈甫不顧黃百韬的勸告，繼續挺進，終于在孟良崮山區被解放軍主力團團包圍。
74師陷入重圍之後，蔣介石下令孟良崮附近的各路軍隊前往救援。但其他一些黃埔系的國軍為了儲存實力有意拖延，隻有黃百韬率領他那支武器裝備不算精良的25師全軍出動，前往孟良崮。然而，黃百韬卻還是遲了一步，當他達到孟良崮時，整編74師已經全軍覆沒。
孟良崮戰役後，黃百韬雖然沒有救下74師，但卻得到了蔣介石的肯定，此後他的整編25師更受器重，并逐漸成為蔣介石“剿共”的主力軍。
在此後的交戰中，黃百韬也是最讓解放軍頭痛的國軍将領。豫東戰役中，黃百韬出其不意殺到戰場腹地，解放軍措手不及，中野11縱遭受重創，解放軍被迫撤退，損失頗重。
豫東大戰後，蔣介石大為高興，在南京來了慶祝會，表彰黃百韬，親自為他戴上一枚青天白日勳章，這對于一位非黃埔系出身的将領來說，是從未有過的殊榮。随後，蔣介石又将第6軍、13軍和25軍合編為第七兵團，破格将黃百韬擢升第七兵團中将司令官，黃百韬成為國民黨軍中唯一一個做到兵團司令的非黃埔系将領。
淮海戰役爆發後，黃百韬的第七兵團參戰。不過這次他卻沒有以往的幸運，他成為了解放軍的第一個攻擊對象。從1948年11月12日起，華東野戰軍調集整整九個軍的兵力對黃百韬兵團發起猛攻，每天對碾莊陣地發射炮彈三萬多發。
黃百韬一直堅持戰鬥，直至彈盡糧絕。11月22日，黃百韬兵團在碾莊被全部消滅，絕望之下的黃百韬從口袋裡摸出一張照片，在背面寫上：“黃百韬盡忠報國”幾個字後，然後掏出手槍自殺，一代名将殒命沙場。
得知黃百韬自殺殉國的消息後，蔣介石悲傷不已，他呆立許久才緩緩說到：“得把黃百韬的屍體運回南京，我要隆重地開個追悼會”。在蔣介石的嚴令下，黃百韬的屍體終于被帶回了南京。
1949年1月17日，蔣介石在南京為黃百韬舉行隆重的國葬。在儀式上，蔣介石痛哭流涕，表彰黃百韬：忠勇壯烈，黃埔精神不死！并追贈為陸軍上将。
蔣介石當然知道黃百韬不是黃埔軍校畢業生，他之是以這樣說，也許在他的心目中，早已将黃百韬這位心腹愛将視同自己的黃埔學生。