皇权的一个轮子是拿笔杆子的官僚，另外一个则是拿枪杆子的军队。
朱元璋在攻克集庆之后，为解决粮食短缺问题，在统治区推行屯田政策，广积粮食，以供军需。
之后，朱元璋和刘基商讨研究中国古代的两种兵制：征兵制和募兵制。
征兵制的好处是全民皆兵，有战征召，无战归农，兵员素质好，都是良家子，来源清晰，朝廷在平时也无养兵的负担。但有明显的坏处，由于兵员来自农村，长期征召影响农耕。而且，兵源有所限制，不适合大规模的国战。
募兵制的好处是兵员的数量和服役的时间不受农耕的限制。但坏处也是十分明显的，一是朝廷为了维持大规模的常备军需要承担巨额的军费，二是兵员多来自于无业游民，来路不明，没有宗族和土地的限制，容易逃亡和叛变。
所以，最好的方法是征兵制和募兵制两者融合，取双方精华，弃双方糟粕。于是，卫所制度应运而生，将战斗力量与生产力量合二为一。
卫所的兵源有四种：一种是从征，即朱元璋起事时所统率的部队，也是他丈人郭子兴的起家部队。
一种是归附，既有平灭天下英豪所收服的部队，也有来自于元朝的降军。
一种是谪发，指的是因犯罪而被谪发当兵的，也被称为恩军，实际上就是古代所说的充军。
一种是垛集，即征兵，按照人口比例征召，一家有五丁或三丁的出一丁为军。
前两种是朱元璋原有的军队，后两种则是之后补充的军队。
卫所制度规定这四种来源的军人都是世袭，子子孙孙世袭为军。而且，为了保障稳定的军队数量，规定军人必须娶妻，如无子孙继承，则由其原籍家属的壮丁补上。
军人有特殊的社会身份，有单独的“军籍”。在明朝的户籍管理中，军籍和民籍、匠籍平行，军籍归都督府管理，民籍归户部管理，匠籍归工部管理。
军人不受普通行政官吏的管辖，在身份上、法律上和经济上的地位，都和平民不同。而且，朝廷对军人家庭有优待。
民户有一丁被垛为军，朝廷便免除其原籍家庭一丁的徭役，作为优恤。军士到戍所时，由宗族为其专门准备衣装。
在卫所的军士除了其本身为正军外，其子弟称为余丁或军余，将校的子弟则称为舍人，作为卫所的候补力量。
军士的日常生活皆由朝廷根据屯田数目进行支给，按月发米，称为月粮。马军月支米二石，步军总旗一石
…。。