本始二年（前72年）五月，即位两年的汉宣帝下了一道全面颂扬他的曾祖父汉武帝的诏书，其中强调了孝武皇帝自己躬行仁义，而又威武迅猛，北上征讨匈奴，单于逃得远远的，南下平定氐羌、昆明、瓯骆两越，向东平定了菱、貉、朝鲜，开拓了大汉疆土，设立了郡县，各个蛮夷之国也都臣服，通好的使臣不请自至，珍贵的贡物陈列在宗庙中 的功绩。
汉宣帝要求丞相、御史与列侯、二千石、博士讨论武帝的“尊号”和“庙乐” 。群臣莫不赞成，唯独长信少府夏侯胜发表了惊人的反对意见：“ 武帝虽有攘四夷广土斥境之功，然不宜为立庙乐。”
丞相蔡义和御史大夫田广明带头声讨夏侯胜“非议招书，毁先帝”的罪行，定性为“大逆不道”；又揭发丞相长史黄霸事先知道夏侯胜的观点而没有举报，犯有包庇怂恿之罪；两人都被捕入狱 ，直到本始四年，夏侯胜被赦而担任谏大夫给事中，黄霸担任扬州剌史 。
此后大臣们很快拟定方案：六月庚午日，尊汉武帝的庙号为世宗庙，在庙中演奏《盛德》、《文始》、《五行》舞曲，武帝生前巡行过的四十九个郡国都建立世宗庙，像高祖庙和太宗庙一样。宣帝立即批准，下令在全国实行。为庆祝这一重大决定，特地给全国成年男子普遍增加一级爵位，并赏赐酒肉 。
七月，宣帝动员与选派关东轻车锐卒，挑选各郡国位在三百石的强健而谙于骑射的吏员，都从军西征。命田广明、赵充国、田顺、范明友、韩增为五将军， 兵十五万骑，校尉常惠持符节指挥乌孙兵，出击匈奴 。最后俘获了单于的父辈及嫂辈、居次、名王、犁污都尉、千长、将军以下三万九千多人，抢得马、牛、羊、驴、骡、骆驼共七十多万头，匈奴部队连死带伤而减去的人数以及因远途迁徙而死亡的牲畜不可胜数，匈奴因此衰败损耗 。
从这起事件中，深究一番可以知道， 为汉武帝立庙一事确实是汉宣帝初即位时的一招好棋。根据中国古代传统，立庙是“正统” （嫡系子孙 ）的责任， 而主丧、主祭亦是宗子才能行使的权利 。所以古代皇帝驾崩后，一定要太子在灵柩前即位，然后才能主丧，为大行皇帝发丧。宣帝即位时其曾祖父已去世多年，他不可能为先帝主丧。但由于汉昭帝未出临武帝葬礼 、又未能为武帝立庙，因此汉宣帝以为武帝立庙的方式来宣示自己才是汉武帝的嫡系遗脉（卫太子刘据是武帝的宗子 ——嫡长子），用来与以庶出少子身份即位的昭帝区别开来，显示自己才是继承汉武帝事业和遗志的正统，自己的继位是天经地义并且完全合法，具有不容置疑的正当性，并借以提高自己的个人威信；同时在以孝治天下的西汉，宣帝此举也示为武帝尽孝。
而《汉书·郊祀志下》也因此记载：【宣帝即位，由武帝正统兴，故立三年，尊孝武庙为世宗，行所巡狩郡国皆立庙。】
当出现夏侯胜反对的局面后，汉宣帝顺势将其下狱，震慑朝臣，进一步树立了自己的个人权威；进而肯定汉武帝征伐四夷的举措，得以在随后三个月兴兵征讨匈奴，扬汉国威。宣帝此举既表达了对先帝的孝心，又标榜了自己的正统嫡系的身份，初步确立了在朝堂上的威信从而征伐匈奴，真是一举而三得。
而由此可见西汉晚期刘向说汉宣帝“聪明远识，制持万机”在汉文帝之上 ，绝非虚言。
汉宣帝即位后的第六年，也就是地节二年（前68年），霍光去世。汉宣帝与上官太后亲临丧礼，以皇帝规格的温明厚葬霍光，并加封霍光的侄孙霍山为乐平侯，以奉车都尉的官职领尚书事。 与此同时，汉宣帝认为时机已到，开始亲理朝政。他重用御史大夫魏相，让魏相以给事中的身份参与朝中的机密决策，后来又提拔魏相做了丞相 。继而任命邴吉为御史大夫，又委以他的岳父平恩侯许广汉以重任 ，逐渐把权力收归己手。
汉宣帝深知，霍光虽已去世，但霍家的亲属和亲信还控制着中央政府的各个机要部门，尤其是兵权也掌握在他们手中，霍显毒杀许皇后的真相也开始慢慢泄露出去。为此，汉宣帝首先采取行动，削夺霍家把持的权力。他先解除了霍光两女婿东宫(长乐宫)、西宫(未央宫)卫尉的职务，剥夺了他们掌管的禁卫军兵权。又把霍光的两个外甥女婿、孙女婿调离了中郎将和骑都尉的位置并收回官印，让自己的亲信的许、史两家子弟担任南北军和羽林郎的统帅，最终把兵权掌握在自己手中。之后，他提拔霍光的儿子霍禹为大司马，明升暗降，剥夺了他掌握右将军屯兵的实权。还对上书制度进行了改革，下令吏民上书，直接呈皇帝审阅，不必经过尚书，群臣百官进见皇上可以独自往来，把霍山、霍云领尚书事的职务架空起来 。通过这一系列步骤，霍家掌握的实权被剥夺殆尽，权力逐渐集中在汉宣帝的手中。
面对汉宣帝全面夺权的行动，霍家集团内部先是不满，后来惶恐不安。霍家人知晓了霍显毒杀许皇后的真相后，开始有了邪谋 。霍云的舅舅李竟的好友张赦见霍云家族岌岌可危，建议李竟通过霍显告诉上官太后，先杀死当权的丞相魏相和平恩侯许广汉，进而罢黜皇帝。长安男子张章告发了这件事，宣帝就把此事交给廷尉处理。执金吾拘捕了张赦、石夏等人，宣帝看重上官太后的面子，下诏制止，不准拘捕，未予深究。霍山等人更加恐慌，害怕时间久了被追查问罪，决定先动手 。秋七月，霍氏欲图借上官太后之手杀死宣帝亲信、罢除天子而立霍禹为帝，保住他们的既得利益 。但叛乱在严阵以待的汉宣帝面前很快瓦解了。霍氏相约定的计划还没有实施，宣帝就任命霍云为玄菟太守，太中大夫任宣为代郡太守。霍山又因为抄写宫禁秘书犯法，显为此上书表示愿献出城西的宅第及一千匹马用以赎霍山的罪。宣帝在奏书上只批复知道了。就在这时，他们密谋的事被发觉，霍云、霍山、范明友自杀，显、霍禹、邓广汉等人被捕捉到，霍禹被腰斩，显及她的几个女儿兄弟都被处死。与霍氏相连的数千户人家被诛灭 。宣帝随即下诏公开此事，所有被霍氏所连累的人，如果事情发生在丙申日以前，还没有发觉报官在押的，一律赦免 。八月已酉日，废霍皇后。在西汉朝廷中盘踞了十几年的霍家势力一朝覆灭，汉宣帝最终确立了他的绝对统治。
汉宣帝彻底清除了霍氏的势力，可以大刀阔斧的施政了。
汉宣帝早年生活在民间，深知吏治好坏将直接关系到百姓的生存发展与社会的和谐稳定。他说“吏不廉平则治道衰”。所以，他即位后，除亲自过问政事，省去尚书这一中间环节，恢复了汉初丞相既有职位又有实权的体制外，还特别重视地方长吏的选拔和考核，并下大力气整饬吏治。为此，刘询建立了一套对官吏的考核与奖惩制度。他多次下诏对二千石（郡守级官吏），实行五日一听事制度；并不定期派使者巡行郡国，对二千石官员的工作进行考察。根据考核结果，信赏必罚。他颁布诏令说：“有功不赏，有罪不课，虽唐虞犹不能化天下。”在他当政时，一大批因政绩突出的官员受到了奖励，或以玺书勉励，增秩赐金，或爵关内侯，升任九卿或三公。对那些不称职或有罪的官吏，则严惩不贷。 随着这些措施的推行，一大批“良吏”便逐渐造就而成。其中，还有许多官吏是由低级郡吏察廉晋升而来，或因明经而被提拔。
汉宣帝时期，是官吏“久任”制发展到较为完备的时期。这主要表现在两个方面：
其一，把官员“久任”的实施范围由中央大臣扩大到高级地方官员。不仅侍中、尚书等参掌朝政的亲信近臣得蒙荣宠，郡太守一级的高级地方官也多有“久任”者。 汉代的郡国介于中央与县之间，在中央与地方的关系中，郡国守相起承上启下的作用。郡国守相的好坏，不仅关系到一方的安宁与否，也关系到国家的治乱兴衰。所以，刘询对郡国守相的选任，十分慎重和严格，规定先由朝中大臣举荐，然后择日亲自召见考核，询问治国安邦之术。著名循吏龚遂被任命为渤海太守，就是其中一例 。 …
