五胡十六国时期，各民族之间也冲突不断，在这一百多年间，北方的战乱始终没有停息过，政权不断的更迭，先后共诞生了二十多个政权，直到公元439年，北魏太武帝拓跋焘统一北方，历时135年的五胡十六国才终于结束。而在南方，东晋王朝也始终处于战乱和内乱之后，直到公元420年，宋王刘裕废晋恭帝，自立为宋，史称赵宋，自此，中国进入南北朝时期，这也是中国第一次出现两个王朝南北划江而治的格局。
北魏对中国民族的融合和中国历史的推进是有重要的贡献的，早在拓跋珪时期，便开始鼓励族民从游牧狩猎向农业生产转变，奴隶主也逐渐汉化为封建地主。同时，拓跋珪也招纳汉族地主加入其统治集团。到太武帝拓跋焘时，经过20年的东征西伐，相继灭掉柔然、胡夏、北燕、北凉等国，终于统一北方。
太武帝拓跋焘在治国方面也是雄才伟略，他推进农耕、减轻赋税、推行样板文字、重用汉臣、改革官制、整顿吏治，并宣传礼义、崇尚儒学，于是在北魏，汉族和其它民族能够和谐共处，这也加速了汉文化与北方各少数民族文化的融合。太武帝崇尚儒教和道教，厌恶佛教，由于从西晋时起佛教在中国盛行，佛教人数迅猛增长，严重的影响到国家经济的发展，于是太武帝下令灭佛，宣布佛教为邪教，焚毁所有佛像和佛经，五十岁以下所有僧人尽皆还俗以从征役，史称太武灭佛。
太武帝之后，景慕帝、文成帝、献文帝、以及公元490年开始亲政的孝文帝拓跋宏，他们延续了游牧民族勤奋而坚强的基因，励精图治、崇文重教，并坚持休养生息政策，这使得北魏的游牧经济慢慢转变为了农业经济，人民生活也慢慢走向安稳和富足。孝文帝拓跋宏亲政后，又作出影响民族进程的重要决定——迁都洛阳。而迁都洛阳后，拓跋宏又开展了汉化运动，使用汉朝官服、禁止胡语、推广文教，鼓励鲜卑贵族和汉族贵族通婚，度量衡采用汉制，孝文帝的一系列汉化改革，使得汉族的先进思想文化与北魏渐渐融为一体。
太武帝崩逝，宣武帝继位。宣武帝沉迷佛教，导致朝政混乱，于是国家又开始走向衰败。公元534年，北魏分裂为东魏和西魏；公元550年，高洋屠杀东魏皇室后，建立北齐；公元556年，宇文护废西魏恭帝，建立北周；到公元557年，北齐也被北周所灭，北朝就此统一于北周。
而在南朝，刘宋开朝皇帝刘裕虽然刚毅简朴，可毕竟是军旅出生，并不重视子女的教育，其子宋少帝继位后，因嬉戏失德而被大臣所杀。在此后的一百多年间，南朝频繁的出现王室动荡、皇帝被杀、军阀篡位的情况，先后经历了刘宋、南宋、南梁、南陈四朝，直到公元589年，南朝陈被隋朝所灭。