4.蛮族入侵：游牧部落入主中原
由于不断地分裂，匈奴的力量逐渐削弱，从公元前3世纪开始，在单于的统治下，匈奴部落活动于内外蒙古地带，而其首领则居住在鄂尔浑河地区。公元前44年，郅支部落被驱逐，他们离开蒙古前往巴尔喀什湖流域，匈奴也被一分为二，成为东西两部分。
到了公元48年，东部匈奴内部分裂，以内外蒙古为界，形成了北匈奴和南匈奴。大约在公元155年，北匈奴被鲜卑人降服，满洲到哈密一带也被鲜卑控制。
东汉末年，南部匈奴为了躲避鲜卑人的进攻，逃到河套地区、鄂尔多斯草原和阿拉善，并在这三个地区一直居住到三国时期。其间，南匈奴一直以中原盟邦的身份存在，无论中原王朝如何混乱、更迭，他们始终都同中原保持着亲密关系，并经常出入于长安和洛阳这两座都城。在中原王朝看来，南匈奴也是值得信任的民族，因此也会给予他们一些统治上的经验授权。
为了更好地为中原皇帝效劳，南匈奴继续向南推进，将活动范围扩大到山西中部的平阳地区。这一时期，中原的汉朝正被内战困扰，濒临崩溃。南匈奴首领呼厨泉单于在此时想起了自己的一位祖先曾经是汉朝公主，就将自己改为刘姓，采用汉朝的国姓，于是，在这样关键的时期，已经被废止的汉皇正室在山西由南匈奴人恢复，即北汉。
公元304年，匈奴首领刘渊在山西太原被晋朝授予封号，成为五部落单于；同年，刘渊以汉朝合法继承者为名，率领5万匈奴精兵建立了北汉王朝，定都太原，自立为帝。刘渊离世后，其子刘聪继位，开始扩大北汉的领地和影响。公元311年，刘聪率兵攻占洛阳，俘虏晋怀帝，并让晋怀帝在平阳做斟酒侍者，不久，晋怀帝被赐死；公元316年，刘聪又率兵包围长安，晋愍帝投降，归降的晋愍帝被要求在宴席上洗刷碗碟，并在两年后被处死。
两位皇帝的悲惨命运让中原感受到蛮族的威胁，于是，一位皇室后裔逃往建康，以长江为天然屏障，在公元317年建立第二个晋朝，即东晋。此后近三百年，长安和洛阳的地理位置被建康取代。而刘聪因在洛阳和长安取得了决定性胜利，成为这两大都城的实际拥有者，长江以北地区，包括山西中南部、汉水流域以外的陕西、开封以外的河南和山东东北部，都被匈奴控制。
刘聪虽然从小过着游牧民族的生活，但他在成长过程中一直被中原文化所包围和影响，所以耳濡目染之下，也保留了中原文化的习惯。但是在北汉的疆土北部，一支纯游牧民族却开始涌入。
早在公元260年，山西北部就有突厥拓跋部落的活动踪迹，之后数年，这些拓跋人渐渐南移，到达长城以南，并进入山西大同地区。公元310年，他们在大同地区永久定居，与此同时，在辽东和辽西，鲜卑族的慕容部也建立起新王朝。
这些不同的游牧民族部落因利益冲突而爆发了激烈的纷争，各部落占领的地区也因纷争而动荡不安。公元318年，刘聪离世，北汉实力开始下降，其后裔也只能保全以长安为中心的部分疆域。同时，刘渊的部将石勒叛乱，在河北南部的襄国建立国家。公元329年，石勒废除北汉，并在邺城建都，成立新王朝，历史上称为“后赵”。
公元333年，石勒去世，石虎继位。石虎在位期间，进一步扩充领土，但他在位时间不长，于公元349年离世。随后，后赵的后裔爆发内乱，辽东逐渐强大的鲜卑则趁机攻占了后赵的领土，并建都北京，史称“前燕”。不过，前燕和后赵一样，都在极短的时间内消亡，成为历史洪流中转瞬即逝的浪花。
当时，石虎手下有一名蒙古军官，名为苻洪。后赵在公元350年灭亡之后，苻洪以长安为都城，在陕西建立了自己的王朝前秦。苻洪的孙子苻坚是部族中非常优秀的统治者，而且，苻坚非常认同中原文化，以仁慈之主和佛家守卫者自居。
公元369年，苻坚率军进攻洛阳，成功击败了鲜卑族的慕容氏，俘虏慕容氏国王，实现了对北部中国的统一。公元376年，苻坚再度出击，成功吞并了甘肃境内的凉国。公元382年，苻坚派遣吕光前往塔里木盆地，征服了西域地区鄯善、焉耆和南车师，并将学识渊博的鸠摩罗什带回长安。
完成了北方的统一之后，苻坚又将目光转向了长江以南的东晋，产生了统一中国的想法。
公元383年8月，苻融率领25万先锋军队，苻坚率步兵60万、骑兵27万，共112万大军挥师南下，试图一举消灭东晋。而面对强大的前秦攻势，当时正在内斗的东晋内部矛盾暂时得到缓和，宰相谢安亲自布阵，让谢玄、谢石等人率领8万兵力前往淮水迎敌。11月，东晋采取突袭策略，派遣刘牢率领五千精兵夜渡洛河，击破秦军前哨，斩杀秦军数十名将领。
东晋首战告捷，以弱势兵力取得关键胜利，一时之间士气大增，将苻坚军队逼到淝水东岸。苻坚在寿阳城观察晋军，发现其军队严整，又以为八公山上的草木都是晋军，内心不禁充满恐惧。谢玄则针对秦军厌战、军心涣散的情况，要求秦军略向后撤退，双方渡河决战；而苻坚恃众轻敌，又想速战速决，于是就答应了对方的要求。
但是在后撤过程中，在襄阳被俘的晋将趁机大喊秦兵失败了，不明真相的秦军一时间大乱，而晋军则趁机抢渡淝水，对秦军展开猛烈攻击，打败苻坚。趁着胜利的时机，谢玄又收复了洛阳、彭城等北方重要地区。
经过淝水之战，前秦的元气遭到毁灭性打击，军队的士气也一蹶不振。就这样，刚刚建立起来的前秦帝国很快土崩瓦解，此后，中国北方呈现出众多小国并立的局面。
