明洪武年间，各省既无巡抚，也无总督，最高的军事负责人是“都指挥使”。都指挥使的衙门称“都指挥使司”。都指挥使司与承宣布政使司、提刑按察使司，并称为“三司”，分别主管一省的军政、民政与监察。

都指挥使的辖区，与布政使的辖区并不吻合。比如，在洪武八年（1375），十三个都指挥使司中，出现过一个辽东都指挥使司，而当时并无“辽东省”。洪武十四年(1381),增设贵州与云南都指挥使司和一个被称为”中都(开封)留守司”。洪武二十年(1387),又添加一个“大宁(热河平泉)都指挥使司”。加起来，一共是十七个。

在这十七个都指挥使司中，浙江、辽东、山东，属于左军都督府；云南、贵州、四川、陕西、广西，属于右军都督府；中都、河南，属于中军都督府；湖广、福建、江西、广东，属于前军都督府；北平、山西、大宁，属于后军都督府。

此外，又有三个“行”都指挥使司，地位略低，一在福建，掌管建宁、延平、邵武、汀州、将乐；一在山西，掌管大同、蔚州、朔州；一在陕西，掌管如今日的甘肃武威、张掖、酒泉，以及青海的西宁一带。 明成祖迁都北京后，把北京都指挥使司取消，军队改为“亲军”。明成祖也把大宁都指挥使司移至保定，事实上把热河以东的领土放弃。

明宣宗(1426)年间，添设了一个“万全都指挥使司”，管辖后来的察哈尔南部与绥远的兴和等地。

明世宗(1522)年间，再添设一个“兴都留守司”，以承天卫(湖北安陆)为中心。此外，又有两个新的“行”都指挥使司，一在四川，掌管如今日的西昌一带；一在湖广，掌管如今日的湖北省西部与西北部。

在都指挥使以下，有若干“卫”及若干直属的“所”。每一个卫，通常有五千六百名世袭的兵与军官。卫下面有五个千户所。每一个千户所，包含十个百户所。每一个百户所，包含两个“总旗”。

每一个总旗，包含五个“小旗”。

“都指挥使”的地位，不是世袭的。但只有属于“指挥使”一级的世袭的世官，或考中武科举的人，才有资格被任命为“都指挥使”。世官共有九等：指挥使、指挥同知、指挥佥事、卫镇抚、正千户、副千户、百户、试百户、所镇抚。这些世官，依照明朝的“军民分籍”的制度，是没有封地而有禄田，没有统属百姓而有军队的贵族。