忽必烈时组建了五卫亲军、唐兀卫亲军、钦察卫亲军。忽必烈以后的历代统治者，又陆续增置西域亲军、阿速卫、康里卫等亲军。侍卫亲军环戍京城，在周邻地区屯田，设都指挥使统领，总隶于枢密院。平时分军屯戍，有战事则抽调作战。

镇戍军分驻全国各地，镇戍地区设镇守所。各地镇守所由各行省的镇抚司统领，统属于枢密院。军队的编制仍为万户、千户、百户，万户之下设总管、千户之下设总把、百户之下设弹压。

边疆要地由蒙古宗王领兵镇守，黄河流域包括河南、河北、山东等地的大府，由蒙古军和探马赤军屯驻。汉军和新附军多驻在淮河和长江以南。一些少数民族地区，又有不出戍的各民族的军兵。如辽东有汉军、高丽军，云南有寸白军，福建有由军等。

蒙古灭金以后，在江淮以北逐渐形成具有汉地特点的奥鲁制度。奥鲁一词，是蒙古语，明代汉译为"老小营"，指征戍军人的家属所在。军户都归各路奥鲁官府管领，凡签发丁壮、替换老弱，供应军需等，都由奥鲁官府管理。1264年(至元元年)以后，逐步改由地方路府州县长官兼领诸军奥鲁，管理军户。只有蒙古军和色目军还保持单独的奥鲁赤，即奥鲁官。