元朝的军队分蒙古军、探马赤军、汉军（金朝降军和蒙古政权、元政府在北签发的军队）、新附军（收编南宋的军队）。兵役制度是，在蒙古草原从事游牧的蒙古人，保留成吉思汗创立的兵民合一的千户制，平时屯聚牧养，战时出军。在汉地和江南则从军户中签发丁男应役。
　　
　　蒙哥初年，军户制度已基本确立。宪宗二年（公元1252年）登记户口时，已明确区分民户和军户。探马赤军、汉军、新附军以及进入内地的大多数蒙古人户，皆登记为军户，以后又陆续有一些汉族和其他各民族人户被签入军户。签发汉军时，一般取中户。凡户出一人者，称为独军户；合二、三户出一人，则出丁男户为正军户，余为贴军户，共同资肋出军者所需鞍马、器仗等物。至元元年（公元1264年）规定军户和站户（在驿站服役人户）减半纳地税，豁免杂泛差役，后来改为免税粮4顷，称“赡军地”。军户应役由奥鲁办理。蒙古人出征时，其家口、辎重屯于驻地，称为奥鲁。《蒙古秘史》译为“老小营”、“老营”。元朝发展为完善的奥鲁制度。蒙古军、探马赤军的军户，由隶属其所在地区千户、万户的奥鲁管理。管理汉军军户的奥鲁由管民官兼领。对新附军军户未设奥鲁。奥鲁的主要职责，一是从军户中签发丁男应役，对“死亡患难，有所存恤”；二是为起发当役者置备鞍马、器仗、盘缠等。
　　
　　元朝的防卫分宿卫和镇戍两大系统。宿卫军由怯薛军和侍卫亲军构成，其任务是怯薛军保留了成吉思汗始创的四怯薛轮番入侍的制度，常额在万人以上；侍卫亲军用于保卫京畿。至元末先后增置30余卫，卫设都指挥史或率史，隶属于枢密院。镇戍军的布局由蒙古军和探马赤军戍守靠近京畿的要地，华北、陕西、四川的蒙古军、探马赤军由各地的都万户府（都元帅府）统领，隶属于枢密院。南方以蒙古军、汉军、新附军共同驻守，防御重点是临江沿淮地区，隶属于各行省。镇戍诸军，有警时由行枢密院统领，平时日常事务归行省，但调遣更防等重要军务则归属枢密院决定。