隋文帝时期在政治经济制度上进行了大量改革，其中影响最深远的是他将地方州、郡、县三级减为州、县两级，借以节省开支、精兵简政。在中央则首创了三省六部制度。此外，隋文帝还废止了自曹魏以来中国实行了300多年的九品中正制，而创立了科举制度。南北朝时期，突厥人作为北方最主要的一个游牧民族时常侵扰内地。北周时期，杨坚一直采取和亲政策缓和双边关系。公元583年，突厥大举南侵，隋文帝派兵将其击败，并大修长城加强防御。
此后，战败的突厥分裂为东突厥和西突厥，西突厥向西面发展称雄西域（后在唐高宗时被唐朝消灭），东突厥则受到了隋朝的控制（后在隋末大乱再次崛起，空前强大控弦且百万，戎狄炽强，古未有也 ，后被唐太宗消灭），中国北方边境逐渐稳定。隋朝初年，在南方还存在有西梁和陈两个政权，这里要简单介绍一下这两个政权。在南朝的第三个朝代梁朝时期，爆发了著名的侯景之乱。侯景本是东魏大将，因为与权臣高欢不合而投奔了梁朝，后来他勾结临贺王萧正德发动叛乱，答应事成之后让萧正德做皇帝。
叛军攻陷建康，包围皇宫，崇尚佛教的和尚皇帝梁武帝萧衍被困其中，活活饿死。不久，侯景杀死萧正德，立梁武帝萧衍第三子萧纲为皇帝，是为梁简文帝，后又废简文帝自立。其后，镇守江陵的梁武帝第七子萧绎派将军王僧辩和陈霸先击败侯景，攻破建康。萧绎于公元551年在江陵自立为帝，是为梁元帝。公元554年，西魏攻陷，梁元帝被杀，西魏立梁武帝之孙萧为梁朝皇帝，历史上把这个政权叫做后梁或西梁，西梁向西魏称臣。这个萧曾在549年与湘东王萧绎（也就是后来的梁元帝）交战，战败后逃亡西魏，被西魏封为梁王。
梁元帝死后，王僧辩立北齐支持的萧渊明为帝，陈霸先杀王僧辩及萧渊明，另立梁元帝之子萧方智为帝，是为梁敬帝，自掌大权，后又废敬帝自立，国号陈，是为陈武帝，这就使南朝的最后一个朝代陈朝。 西梁虽然以南朝正统自居，与陈朝对立，但地少国弱，一直是北方西魏、北周和隋的附庸国。公元587年，隋文帝召西梁皇帝萧琮入朝，废之并吞西梁，由此完全做好了南下统一全国的准备。
公元588年，隋文帝以晋王杨广为帅，起兵南下攻陈。当时，陈朝皇帝是那位因宠爱张丽华和孔贵妃而夜夜笙歌的后主陈叔宝。隋朝大军压境，陈叔宝却不慌不忙，他说：我们有长江天险为屏障，过去北朝各国多次南侵不都无功而返吗？可是话音落下不久，隋朝大军就已经突破了长江防线。公元589年，隋军攻入建康，陈叔宝情急之下带着两个爱妃躲藏到一口枯井中，后来被俘。这口井就是今天南京鸡鸣寺中的那口胭脂井。 至此，隋文帝结束了自西晋以后中国近300年的分裂局面，南北朝结束。隋文帝杨坚也因其锐意改革、为君勤俭而创建了一个政治稳固、社会安定、百姓富足、文化繁荣的盛世，史称开皇之治。