在明朝中央，大都督府与兵部分别执掌军令和军政两项大权。洪武十三年（1380），借诛杀胡惟庸、废除丞相之机，代之以所谓“五军都督府”。五军，指前、后、左、右、中五军。每军设左、右都督各一名，正一品；都督同知、都督佥事若干名，都督同知是从一品，都督佥事是正二品。都驻在京城。各军都督府之下，各省还有若干都指挥使司。都指挥使，是正二品，原则上五年一任。在都指挥使以下，有都指挥同知，是从二品；都指挥佥事，是正三品。

指挥使以下实行卫所制。

指挥使，掌管一个卫，正三品，其次还有“千户”、“百户”，执掌千户所与百户所，最低的是镇抚，掌管一个总旗或小旗。千户有正副之分，不足百户称“试百户”。指挥使与正千户之间，分为九等:指挥使、指挥同知、指挥佥事、卫镇抚、正千户、副千户、百户、试百户、所镇抚。都是世官。世官的总数，在洪武二十三年(1390)，有一万六千五百名左右。明朝实行的军民分籍制是朱元璋综合汉朝的屯田制、唐朝的府兵制与宋朝的尺籍制后，创立的一种独特的户籍制度，它将全国户籍分为军民两套。士兵入军籍后，每人赏官田五十亩。当兵到六十岁或死后，由子孙一代代地继承：每代只须长子一人服役，次子以下作为补缺的“余丁”。受赏的五十亩官田，每亩须纳税二斗四升，作为军粮军饷之用。到洪武二十三年（1390），“世兵”的总数，达到一百二十万名左右。

除了隶属于五军都督府的各卫所以外，另有直属于皇帝的“亲军”。亲军在洪武年间，共设有十二个卫，其中以“锦衣卫”为最重要。到明成祖时把亲军扩充到二十二个卫，称为“上二十二卫”。卫所，遍于全国。全国的卫所，在洪武十三年(1380)，共有四百九十三个卫，卫之下独立的千户所有三百五十九个。此外，在边疆地区设立的行政单位，所谓的“羁縻卫所”，也有四百多个。

兵部在丞相一职未被废除前，隶属于以丞相为主管的中书省。其后，兵部与其他五个部(吏、户、礼、刑、工)直属于皇帝。兵部设正二品的尚书一人，“掌天下武卫官军选授简练之政令”；设左右侍郎各一人，正三品，作为尚书的辅佐。而发兵、调兵，必须“纳符请宝”。符，是金牌，只有两块，一块藏在中书省(后改藏在兵部)，一块藏在大都督府(后改藏在中军都督府)。皇帝下诏发兵，由中书省(兵部)与大都督府(中军都督府及有关的某军都督府)会同奏覆，会同交上这两块金牌，谓“请宝”。请宝，是请求发给“走马符牌”。然后，分遣使者，佩上“走马符牌”，才到各个卫所去调兵。走马符牌，铁质，一共有四十块，二十块铸有金字，二十块铸有银字，平时都藏在宫城里的内府。战事完毕以后，司令官缴印，军官与卫兵各回原有的卫所。永乐七年(1409)后，不再使用走马符牌，改用为编号的“调军勘合”。