大成元年(579)二月，周宣帝宇文咥传位于其子衍(后改名阐)，改元大象，是为周静帝，宇文咥至自己以天元皇帝名义掌握政权。次年五月宇文嘎死，静帝时方八岁，内史上大夫郑译、御正下大夫刘防假传遗诏，召杨坚入宫，以左大丞相、都督内外诸军事名义掌握军政大权。
杨坚并无煊赫大功，也没有超越诸大臣的实权与重望，仅凭借军事贵族的家世与后父的地位得掌大权。但由于周宣帝诛戮大臣，当时朝中已无有力的反对派杨坚掌握府兵集中的关中，军事上对地方居于优势。他在元老宿将李穆、韦孝宽的支持下，凭仗关中军事力量，仅用不到半年的时间，就迅速平定了反抗他的相州(今河南安阳南)总管尉迟迥、郧州(今湖北安陆)总管司马消难、益州(今四川成都)总管王谦。三方叛军在不同程度上都和北齐旧臣有关。特别是尉迟迥，所用多齐人，如亲信谋士崔达辈就是第一流高门博陵崔氏。他起兵时，据说“赵魏之士，从者若流”，不久就至数十万众，尉迟迥起兵实际上代表了关东士族豪强的割据愿望。司马消难自己就是北齐旧臣，王谦所用之人也有北齐后主的宠臣高阿那肱。所以，杨坚平定三方是在北方统一的基础上进一步削弱割据力量。
平定地方叛乱的同时，杨坚还屠戮了宇文氏诸王。在消灭内外政敌以后，他自左大丞相迁大丞相，并于周大定元年(581)二月代周称帝，国号隋，改元开皇，是为隋文帝(见隋文帝杨坚)。