至正十六年（1356年），朱元璋率軍攻下集慶後，按照元朝的軍事上司體制設立行樞密院，統領麾下将士。随着實力的增強，朱元璋又在集慶設立了統軍元帥府，在各重要地區設立了翼元帥府，分管各地将士。
太祖下集慶，即置行樞密院，自領之。又置諸翼統軍元帥府。
至正二十一年（1361年），朱元璋于龍灣之戰擊敗陳友諒後，廢除了行樞密院，設立大都督府，以親侄子朱文正為大都督，統領麾下将士。
罷樞密院，改置大都督府。以朱文正為大都督，節制中外諸軍事，設司馬、參軍、經曆、都事等官。
至正二十三年，在洪都之戰中立下了大功的朱文正因不滿朱元璋有功不賞而密謀發動叛亂，雖然朱元璋接到密報後及時處置了朱文正，
但他還是決心消除大都督權勢過重的隐患
，是以他在大都督府增設了左、右都督。
大明建立以後，
軍權集中在大都督府的少數将領手中顯然與朱元璋加強皇權的想法背道而馳
，是以對大都督府進行分權就成了他的必然選擇。
洪武十三年（1380年），朱元璋分大都督府為中軍、左軍、右軍、前軍、後軍五都督府，每府設左、右都督各一名，正一品。這樣，五軍都督府就繼承了大都督府的最高軍事指揮權，掌管着除親軍十二衛之外的所有衛所，
但是卻失去了調兵的權力。
即便如此，從洪武十三年至正統十四年，五軍都督府的權力仍然很大，衛所将領的選拔和更替、衛所士卒的操練、管理軍戶屯田和軍事情報的擷取都由五軍都督府掌管。此外，
事關帝國安危的重大軍事行動都需要皇帝和五軍都督府的都督們商議後才能決定。
五軍都督府權力很大就意味着兵部地位的低下，不僅重大軍事行動的商議兵部不得參與，就連五軍都督府的事務兵部都不得幹預。這樣，
兵部實際上就相當于是皇帝向五軍都督府釋出調兵指令的資訊傳達機構。
祖制五軍都督府，外人不得與聞，惟掌印都督司其籍。前兵部尚書邝野向恭順侯吳某索名冊稽考，吳按例上聞，邝惶恐疏謝。
但是，随着明宣宗于宣德十年正月突然駕崩，三楊内閣乘明英宗年幼之機将兵部尚書王骥扶上了麓川之役明軍主帥的位置，
兵部第一次觸碰到了軍事指揮權。
在王骥的率領下，明軍接連三次确定麓川之役的勝利，一向以儒雅示人的兵部文官充分展露出了自己駕馭戰争的能力，隻是有大量戰功卓著、爵位在身的武将坐鎮五軍都督府，兵部地位的崛起依然阻力重重。這種情況下，
土木堡之變的發生為兵部地位的崛起提供了一個絕佳的契機。
土木堡之變中，明英宗被俘，參戰的二十萬明軍損失過半，武将勳貴集團的中堅力量英國公張輔、泰甯侯陳赢、驸馬都督井源、平鄉伯陳懷、襄城伯李珍等人和經過他們悉心調教的新生力量盡數陣亡。而接下來的京師保衛戰中，兵部尚書于謙卻以一己之力挽狂瀾，
這就給世人心中留下了一種關鍵時刻還得靠文官的印象。
是以景泰帝登基後，以于謙提督京營，兵部地位開始崛起，五軍都督府的權力開始逐漸削弱。
景泰年間，每遇重大軍事行動，朱祁钰都會跟于謙商議，并且衛所将領的選拔和更替、衛所士卒的操練都被收歸兵部，五軍都督府的權力就隻剩下了管理軍戶戶籍和屯田等，兵部地位已然崛起。
明英宗複辟後，雖然通過廢除于謙所設團營、召回天下鎮守文官等辦法打壓兵部，但是随着石亨以圖謀不軌被誅，
大明徹底由文武并重轉向重文抑武。
成化、弘治年間，管理軍戶戶籍的權力也被收歸兵部，
五軍都督府徹底淪為一個有名無實的部門。
凡在京在外武職襲替優給，都司衛所呈送該府，
奏
過送兵部奏請定奪。後行奏俱改屬兵部。
正德年間，明武宗通過寵幸武将江彬、設立兩官廳的辦法打壓兵部的地位，但是随着明武宗的駕崩，這一切努力都化為泡影。
嘉靖年間，五軍都督府僅剩的管理軍戶屯田的權力被收歸戶部，
五軍都督府成為了一個可有可無的部門，
五軍都督府的左、右都督成為了武将的榮譽職銜。此後，凡遇征戰，武将都由挂兵部職銜的巡撫或總督節制。
凡天下将士兵馬大數，蔭授、遷除與征讨進止機宜皆屬之。十三年分大都督府為五軍都督府，見若以為品秩如其故者，而兵部陰移之，其權漸分矣。所謂五都督者，不過守空名與虛數而已。
秦漢以後的曆朝曆代并沒有嚴格劃分過武将和文官，統治者對大臣最為看中的其實是文武兼備，唐代甚至還有邊帥立功後要入朝為相的慣例。這種情況下，明代五軍都督府權力的削弱和兵部地位的崛起是不會出現任何問題的。
宋代以後，為了防止藩鎮割據局面的出現，才有了明确的文官和武将的劃分，但是，文官看待戰争更多的是從政治的角度出發，武将看待戰争更多的是從軍事的角度出發，并且在宋代文官的改造下，武将的培養單純強調武勇而輕視謀略。這種情況下，明代五軍都督府權力的削弱和兵部地位的崛起就會出現問題。
像宋代文官那樣從政治的角度看待戰争的明代文官統領武将們作戰時，往往會出現一種尴尬的現象：武将領兵快速投入戰鬥會被文官指責為輕敵冒進、好勇嗜殺；武将選擇等待有利時機再出戰會被文官指責為畏敵避戰、養寇自保。
這種情況下，武将就成了朝廷的戰争機器，完全失去了戰争中的主動權，如果統領武将的文官具有良好的軍事素養還好說，一旦文官像楊鎬那樣，等待明軍的就是薩爾浒那樣的慘敗。
此外，為了防止武将勢力擡頭，明代的文官們還拒絕一切有助于提高軍隊戰鬥力的建議，比如萬曆時期戚繼光和俞大猷都曾提出過整訓明軍的計劃，結果被文官否決，
大明進而錯失了最後一次提升軍隊戰鬥力的良機。
更加嚴重的是，五軍都督府的權力削弱和兵部地位的崛起又産生了一個新的問題：文官輕視武将、武将對文官陽奉陰違。這種情況下，文官和武将在戰争中離心離德就成了一種必然，結果就是像松錦大戰那樣的慘敗在明軍中不斷上演。
正是由于五軍都督府權力的削弱和兵部地位的崛起，明末才出現了軍事形勢由文官的軍事素養決定的局面，盧象升、洪承疇、孫傳庭等軍事素養較高的文官在時，明末的軍事形勢就很好，當他們先後陣亡或被俘後，明末的軍事形勢瞬間急轉直下，并在不久後滅亡，
是以五軍都督府權力的削弱和兵部地位的崛起就成了壓垮大明的第二顆稻草。
【玺言春秋明末曆史第四十五講，參考文獻：《明史》、《明會典》、《明太祖實錄》、《明太宗實錄》、《明英宗實錄》、《明世宗實錄》等。】