1368年，享国运不足百年的元朝被朱元璋领导的起义推翻了，与辽、金、西夏等少数民族政权不同，末代元朝皇帝元顺帝妥欢帖睦尔既没有战死，也没有自杀，而是率领着王族和所剩的军队撤退到了自己祖先曾经兴起的故地——蒙古高原，在中国完成了一次外来政权全身而退的“奇迹”。

这得归功于从成吉思汗开始的近似于疯狂的扩张，使得蒙古帝国幅员辽阔，汗国、部落林立，而元朝的版图只算蒙古帝国的一部分，元朝的皇帝又是蒙古帝国的大汗，对于蒙古各大汗国和部落享有宗主权。元朝的灭亡，只是使蒙古帝国失去了中国的领土，而蒙古国依然存在。

元顺帝是元朝皇帝中少有的接触汉文化较深的一个，大都陷落仓皇北归的打击，对于他来说是极大的，虽然依然还是蒙古各部的大汗，但也不能排解他“去国怀乡”的忧愁，尤其是明朝军队对于他的继续打击又接连不断，更使他惶惶不可终日。

终于，1370年5月23日，他怀着悲愤和郁闷，在沙拉木伦河畔的应昌去世。元顺帝的儿子爱猷识里达腊获悉父亲去世的消息后，便在哈拉和林继位，他将残元政权又维持了八年，并厉兵秣马盼望着有朝一日重登中国皇位。然而，他非但没有机会实现这一愿望，还面临着深入到蒙古地区的明朝军队的攻击。

1372年，明朝大将徐达率军攻向哈拉和林，这是蒙古黄金家族的大本营，是权力和荣耀的象征，一旦被明军攻破，蒙古帝国将彻底在世界上消失，因此，蒙古人的抵抗十分激烈。

但是，被誉为“万里长城”的徐达一路上势如破竹，爱猷识里达腊几乎到了绝望地边缘。所幸，明朝的大军由于战线过长，后援不继，受阻于土拉河畔。

1378年，爱猷识里达腊怀着满腔遗憾去世，其子脱古思帖木儿继位，这位第三任残元皇帝所能控制的领土已经缩小到蒙古帝国最初兴起时的规模，恢复祖上的荣光更显得毫无可能了。

1388年，一支10万人的明朝军队在大将蓝玉的率领下在合勒卡河和克鲁伦河之间、贝尔湖南岸大败脱古思的军队，残余诸王、平章以下官员三千多人及军士七万余人被俘，脱木思帖木儿逃走后被其部将缢杀。

这次的失败使黄金家族——忽必烈家族的残元政权丧失了在蒙古人中至高无上的地位，以至于大多数蒙古部落宣布脱离它而自立。1399年，分布在叶尼塞河上游沿岸的乞儿吉斯部首领贵力赤，否认了最后一任残元皇帝额勒伯克的宗主权，于1399年将其打败并杀死，取得了统治各部的霸权。

至此，苟延残喘了29年的残元政权灭亡了，合法的蒙古帝国大汗不复存在了，蒙古各部又回到了争夺蒙古帝国大汗宝座的纷争当中。

对明朝管辖境外的北元军政集团，他采取一面军事打击，一面加以招抚的方针。对于俘获、投降的蒙古上层人士加以优待。洪武三年被明军俘获的蒙古皇族、元顺帝之孙、昭宗之子买的里八剌，太祖皇帝加封为崇礼侯。并在4年后将其放还。

有学者认为买的里八剌就是被鬼力赤杀死的额勒伯克汗。1388年明军俘获的另一个顺帝之孙、脱古思帖木儿汗之子地保奴，也只是因其口出怨言而流放到琉球去了。

这和元朝处置获罪皇族的惯例是相符的。元顺帝本人就曾被流放到高丽大青岛（今属韩国）。长期据守辽东的蒙古贵族、军阀纳哈出，1387年投降明朝后太祖皇帝也加以封赏，封为海西侯。

对于在明军北伐中对抗的元朝宗室，如顺帝在大都留下的监国淮王帖木儿不花（世祖之孙，时年已83岁），明军当即将其处死。这或许不够宽厚，但应该视为一种激进的战争手段。

投降明军的蒙古骑士，往往被编入军中。明成祖在靖难战争中就调用了朵颜三卫蒙古骑兵的力量。成祖为了纪念这场战争而绘制的《长陵八骏图》显示：战斗中护卫在他身边的，几乎全是蒙古军官。

对于境内的一般蒙古人，太祖皇帝明确表示：如蒙古、色目，虽非华夏族类，然同生天地之间，有能知礼义、愿为臣民者，与中夏之人抚养无异。 （1367年《谕中原檄》）

这说明 ，明朝是愿意将蒙古人视为臣民的。当然，明朝对蒙古人并不是毫无歧视的。《大明律》中规定，蒙古人必须与“中国人”通婚，不得本族内通婚。这当然是一种族群歧视性的法令。不过，这一条在明代的实际执行情况是很值得怀疑的。

对于儒化的蒙古士人，太祖表示“蒙古、色目人既居我土，即吾赤子。有才能者，一体擢用”。蒙古士人答禄与权，是元朝的河南北道廉访司佥事，在明朝获得举荐，担任秦府纪善，负责辅导太祖的次子秦王。

可见太祖虽然有一定的民族情绪，但是敢于任用肯出仕明朝的蒙古人才的。综言之，太祖皇帝没有对蒙古人这一群体实施过什么不好的政策。他对蒙古人是加以区别对待的，但政策的出发点，是把蒙古人和汉人一样，变为顺服的明朝臣民。