在地方行政方面，文帝鉴于南北朝政区划分繁杂随意，地方行政交错混乱，支出庞大，杨坚遂于开皇三年（583年），尽罢诸郡，实行州县二级制，使国家地方行政渐上轨道。诚如学者钱穆所言：开皇之治的成功，简化地方行政机构是一个基本因素。据统计杨坚时期朝廷开支减省三分之二，地方官府之开支减省四分之三，全国于行政之经费，大约是南北朝时期开支三分一而已。故隋国库之丰积，不无原因。
此外，杨坚安定政治，关陇集团的支持功不可没。汉人如郑译、刘昉、高颎等名臣有助推动国策。杨坚亦因前朝酷刑甚多，影响民生，故命苏威等人编纂《开皇律》，修订刑律，订立国家刑法，使人民有法可守，又减省刑罚，死刑只设绞、斩二等，以示隋朝对民之宽大。
在澄清吏治方面，杨坚得国以来，励精图治，兼且天资刻薄，自不容贪污枉法之行为存在。杨坚命柳盛持节巡省河北五十二州，奏免长吏赃污不称者二百余人，州县肃然。吏治之整肃，不仅上裕国库，下纾民困，隋高祖在位时之隆盛，此亦为要因。
杨坚开了科举制度之先河，他即位后，废除了以前选官用的九品中正制，选官不问门第。规定各州每年向中央选送三人，参加秀才、明经等科的考试，合格者录用为官。
科举制度顺应了历代庶族地主在政治上得到应有的地位的要求，缓和了他们和朝延的矛盾，使他们忠心拥戴中央，有利于选拔人才，增强政治效率，对封建专制中央集权的巩固起了积极的作用。
从隋前中期的人口增长就看得出杨坚的政治才能：开皇元年（581年）全国户口462万户，到隋炀帝大业五年(609年)达到8,907,536户，46,019,956人。其中在开皇九年（589年）南下平陈增50.0万，此时的全国户口700多万，平均年增长226,708户。
晚年倾轧
杨坚好猜忌苛察，容易听信谗言，到了晚年更是滥杀大臣，虞庆则、史万岁等功臣故旧先后被杀，此外，法制逐渐遭到破坏，用法“不复依准科律”，颁布诸如“盗一钱以上皆弃市”、“三人共盗一瓜，事发即死”之类的苛刻刑法，百姓惶恐。杨坚还热衷廷杖，“每于殿廷打人，一日之中，或至数四”。 同时，杨坚晚年颇受诸子的困扰。先是软禁三子秦王杨俊；接着在开皇二十年（600年），将长子太子杨勇贬为庶人，改立次子杨广为太子；又于仁寿二年（602年），将四子蜀王杨秀贬为庶人。
离奇去世
独孤皇后去世后，宣华夫人陈氏、容华夫人蔡氏都受到杨坚的宠爱。
仁寿四年（604年），杨坚患病住在仁寿宫，尚书左仆射杨素、兵部尚书柳述、黄门侍郎元岩都进入仁寿宫侍病。杨坚召杨广入内居崐住在大宝殿。杨广考虑到如果杨坚去世，必须预先作好防备措施，他亲手写了一封信封好，派人送出来询问杨素。杨素把情况一条条写下来回复杨广。宫人误把回信送到了杨坚的寝宫，杨坚看后极为愤怒。天刚亮，宣华夫人出去更衣，被杨广所逼迫。宣华夫人拒绝了他才得以脱身。她回到文帝的寝宫，杨坚奇怪她神色不对，问什么原因，宣华夫人流着泪说：“太子无礼！”杨坚愤怒，捶着床说：“这个畜生！怎么可以将国家大事交付给他！独孤误了我！”于是他叫来柳述、元岩说：“召见我的儿子！”柳述等人要叫杨广来。杨坚说：“是杨勇。”柳述、元岩出了杨坚的寝宫，起草敕书。杨素闻知此事，告诉了杨广。杨广假传杨坚的旨意将柳述、元岩逮捕，关进大理狱。他们迅速调来东宫的裨将兵士来宿卫仁寿宫，宫门禁止出入，并派宇文述、郭衍进入调度指挥；命令右庶子张衡进入仁寿宫侍侯杨坚。后宫的人员全被赶到别的房间去。随后，杨坚在大宝殿驾崩，在位23年，终年64岁，庙号高祖，谥号文皇帝，葬于泰陵（今天陕西省杨陵区城西5公里处）。
为政举措
杨坚为巩固国家统一作出了贡献。首先是厉行节俭政治，使民众在较轻的剥削下得以发展生产。其次是修定刑律和制度，使适合于南北统一后的中国。刑律删去若干秦、汉、南北朝相沿的酷刑，更是一个重大的改进。杨坚利用突厥内部存在的弱点，以谋略为主，军事为辅，避免发生大战争，这对国家的安定是很有利的。西晋末年开始的国内分裂，经杨坚积极经营，造成了较为稳定的统一局面，盛大的唐朝就在这个基础上建立起来。
政治
隋朝建立以后，在政治、经济等制度方面进行了一系列的改革。在中央实行三省六部制，将地方的州、郡、县三级制改为州、县两级制，地方官吏概由中央任免，由此巩固了中央集权。杨坚由继承父亲杨忠的随国公起家，其家族曾被赐姓普六茹，进封随王，故把自己新王朝的国号定为随，他又感到随字有走字旁，与走同义，不太吉利，便改随为隋。
隋朝建立初期，是一个百废待兴、百乱待治的局面。隋文帝一登上金銮宝座，就施展他的雄才大略，对政治制度进行了一系列重大改革。
杨坚废除不合时宜的北周六官（天、地、春、秋、冬、夏）制，北周的官僚体制基本上是效仿原来西周时期的《周官》即《周礼》的形式，很原始、极混乱。六官制，称谓复杂，职掌不明，办事效率低下。杨坚恢复了汉魏时期的体制，基本上确立了三省六部制度。杨坚在中央设立三师、三公、五省。三师、三公只是一种荣誉虚衔。掌握政权的是五省，即内侍省、秘书省、门下省、内史省和尚书省。内侍省、秘书省在国家政务中不起重要作用。内侍省是宫廷的宦官机构，管理宫中事务。秘书省掌管书籍历法，事务较少。起作用的是其他三省，内史省、门下省、尚书省都是最高政务机构。内史省负责决策，门下省负责审议，尚书省负责执行。这就是后来被唐朝继承的三省制。
尚书省下设吏、民、礼、兵、刑、工六部。每部设尚书，总管本部政务。具体办事机构就是这是六部：吏部，掌管全国官吏的任免、考核、升降和调动；民部，掌管全国的土地、户籍以及赋税、财政收支；礼部，掌管祭祀、礼仪和对外交往；兵部，掌管全国武官的选拔，和兵籍、军械等；刑部，掌管全国的刑律、断狱；工部，掌管各种工程、工匠、水利、交通等。开始的时候，六部叫做六曹，即六个办事机构。六部的长官为尚书。六部的设置成为后代封建国家中央政权的固定制度。三省六部制分工明确，组织严密，加强中央集权。对唐及以后历代王朝影响都十分巨大。隋文帝建立的这一整套规模庞大、组织完备的官僚机构，表明封建制度已发展到成熟阶段。自隋定制，一直沿袭到清朝。
隋初，杨坚在确立了三省六部制的中央机构后，又对地方机构进行了改革。南北朝以来，由于郡县设置过繁，形成了“民少官多，十羊九牧”的局面。隋初沿北齐、北周制设州、郡、县三级地方机构，开皇三年，杨坚从河南道行台兵尚书杨尚希的建议，废郡，改为州、县二级制。州设刺史，县设县令。
开皇十年（590年）杨坚诏府兵入州县户籍，兵农合一始此。杨坚对于地方机构也进行了改革。他采纳度支尚书杨尚希提出的“存要去闲、并大去小”的建议，将原来比较混乱的地方官制从州、郡、县精简为州、县两级，撤消境内500多郡。同时，裁汰了大量的冗官，将一些郡县合并。大大节省了政府的开支，提高了行政效率，也减轻了人民的负担。为了更好地行使权力，控制地方，杨坚下令，九品以上的官员一律由中央任免。官吏的任用权一概由吏部掌握，禁止地方官就地录用僚佐。而且每年都要由吏部进行考核，以决定奖惩、升降。后来，又实行三年任期制。杨坚简化了地方行政机构，废九品宫人法，初创科举制。隋文帝命令各州每年推选三个文章华美、有才能的人，到中央受官。后来，隋文帝又下令，京官五品以上，地方官部管刺史，要由有德有才的举人担当。这种选拔政府官员的制度，使各个阶层有才华的人都有机会为政府效力。杨坚开创建立的科举制度，在中国历史上留存长达1300多年，直到清朝末期才废除，但当时的美英等国称奇并借鉴了这种选拔制度作为政府文员的聘用方法。 …
