最后，杨坚想出了“两全”之策，通过老同学、内史上大夫郑译向宇文赟透露出自己久有出藩之意。这正合宇文赟的心意，当即任命他为扬州总管。这样宇文赟放心了，杨坚也安心了。
杨坚出任亳州总管时，庞晃劝他就此起兵，建立帝王之业，杨坚握着庞晃的手说：“时机还不成熟啊。”至此，杨坚取周自代的愿望溢于言表。宇文赟是皇家世袭之君，不问朝政，沉溺酒色，满朝文臣武将敢怒而不敢言。
宇文赟不但不听忠臣劝告，反而觉得这皇帝当得太不称心如意。他终于想出了一个逍遥自在的法招，将皇帝让给年仅6岁的儿子。自称天元皇帝，住在后宫，终日与嫔妃宫女们吃喝玩乐，荒淫无度的生活使他年仅22岁就丧命了。
他的儿子静帝即位，任命杨坚为丞相。周静帝即位时才7岁，还是个不懂事的小孩，所以杨坚就在郑译和刘昉的帮助下以外戚身份控制了北周的朝政。杨坚当上丞相以后就开始了篡夺北周大权的计划，先是骗北周宗室五王赵王招、陈王纯、越王盛、代王达、滕王逌到长安，雍州牧毕王贤及赵、陈等五王一起被杨坚杀掉，杨坚又任用韦孝宽出兵打败了尉迟迥，消灭了对自己有威胁的政敌。
西元581年二月甲子日，北周静帝以杨坚众望所归下诏宣布禅让。杨坚三让而受天命，自相府常服入宫，备礼即皇帝位于临光殿，定国号为大隋，改元开皇，宣布大赦天下。杨坚登基后，下诏处死北周宗室。开皇七年（西元587年）灭后梁，一年后下诏伐陈。开皇九年（西元589年），杨坚派遣大军挥戈南下，灭亡了割据南方的陈朝，统一了中国，结束了西晋末年以来三百年的分裂局面。同年琉球群岛归降隋朝。突厥可汗表示愿为藩属永世归顺，为隋朝牛马。杨坚结束了中国长期混乱的局面，征服各族蛮夷部落，使中国又回到了和平年代。
大隋王朝建立以后，杨坚精心治理，隋朝迅速强大繁荣起来。他不仅完成统一中国的大业，还使隋朝成为政权稳固，社会安定，户口锐长，垦田速增，积蓄充盈，文化发展的国家，史称“开皇之治”。在政治、经济等制度方面进行了一系列的改革。在中央实行三省六部制，将地方的州、郡、县三级制改为州、县两级制，地方官吏概由中央任免，由此巩固了中央集权。杨坚继位后开始大兴土木，营造宫殿，下令修建首都大兴城（即后来唐长安城原形），大兴城的设计和布局思想，对后世都市建设及日本、朝鲜都市建设都有深刻的影响。隋文帝于西元584年命宇文恺率众开漕渠。自大兴城西北引渭水，略循汉代漕渠故道而东，至潼关入黄河，长150多公里，名广通渠。这是修建大运河的开始，大运河连接了两个文明。使黄河流域长江流域逐渐成为一体。 杨坚在位23年，604年病逝于大宝殿，终年64岁，葬于泰陵。
