自西晋灭亡后，中国北方一直处于“五胡十六国”割据的混乱局面，直至公元三八六年鲜卑族拓跋部在北方建立起魏国后，北方才从脱离了东晋名义上的统治，使局势逐渐安定起来。公元四七一年，魏孝文帝即位，开始了北魏的第一次重大改革。孝文帝拓跋宏是我国历史上一位杰出的政治家，他五岁登基，二十四岁正式接替文明太后执掌政权，执政伊始，他便开始了“文治”政策。为了加强同汉族及其他一些少数民族的交流，公元四五九年孝文帝以南征为名义，将都城从平城（今山西大同）迁至曹魏故都洛阳。由于洛阳远离鲜卑贵族居住的平城，保守势力相对弱了起来，在这种情况下，孝文帝开始了他的改革。
首先，孝文帝下令鲜卑人改穿汉人服装、禁止说鲜卑话，废除了鲜卑族的种种特权。后来又将鲜卑诸姓改为汉姓，其中拓跋改作元姓，另外还有一些鲜卑姓氏都改为长孙、穆、奚、陆、贺等汉族姓氏，孝文帝还通过婚姻方式来加强鲜卑同汉族的关系，同时在政治上大力重用汉族官员，以汉族习惯进行治理。通过孝文帝的一系列改革，使得汉族的先进文化及先进的政治制度完全融入了北魏的统治中，中国的北方已经开始进入了其民族融合的阶段。
公元449年，拓跋宏死于南征的途中，时年仅三十三岁。孝文帝死后，北魏开始逐步走向衰落。在其后的三十几年中，魏宣武帝、孝明帝、孝庄帝等人先后执政，他们逐渐废弃了以前的民族和解政策，又恢复了鲜卑族的特权，于是新的矛盾产生了。公元五三四年，北魏的孝武帝因不满当时实权人物高欢的胁迫，出走于长安宇文氏家族，而高欢则另立元善为帝，于是北魏分裂为东西两部分。此后，高欢之子高洋与宇文觉先后废东西魏帝建立了齐朝、周朝，史称“北齐”、“北周”。其中北齐存在二十七年，北周存在二十四年。
北齐建立于公元550年，它的建立者是高欢之子高洋，是为齐文帝。由于北齐是在东魏的基础上建立起来的，所以较为强大，文帝在位其间，又进行了一系列改革，故而使北齐的国力优于北周。但自文帝以后，相继即位的孝昭帝、武成帝都是暴君，他们在位期间，大肆杀戮元姓（北魏皇室）与汉族官员，使得北齐失去了鲜卑族与汉族广大人民的支持，后至公元五七七年，北齐被北周消灭。
与北齐同时存在的北周，是由宇文觉于公元五五七年在西魏的基础上建立起来的王朝。在建立之初，它的实力明显弱于北齐，但由于周武帝宇文邕（561—579年在位）的治理，使北周逐渐超过了北齐而强盛起来。在此期间，大部分奴隶被赦免为平民，和解了统治者与人民的矛盾，而武帝自己生活朴素、勤政爱民，深受各族人民爱戴。就这样，北周开始了它的强盛时代。公元五七八年，周武帝卒，传帝位于宣帝，但此后北周的军政大权逐步落入了外戚杨坚的手中，后来杨坚于公元五八一年废周静帝，建立起隋朝，并逐步统一全国，结束了中国长期分裂的局面。