在太子大位确立的同年，即公元前67年，一位小人物路温舒走进了大汉的历史。
路温舒，巨鹿（今河北平乡）人，此前一直默默无闻，因为他只不过是廷尉一名低级的廷尉史，位卑言微，只是默默地尽着自己的本分。但也正因为身在廷尉任职，所以路温舒比普通人更为深刻地了解酷刑的可怕。他认为刘询是个仁君，遂大胆地向其上了一份奏章，暴露司法的黑暗，要求废除酷刑。路温舒指出，造成冤狱的原因在于刑讯逼供，屈打成招。当酷刑将人的尊严都碾碎踩烂之时，认罪是唯一的解脱，尽管他可能是清白的，什么也没做过。
刘询见到路温舒这一纸奏章，深感有理，遂下一道诏书，命全国法官办理案件时要宽大公平。路温舒的这份奏章很温和，很微弱，虽然没有收到任何效果，但却在很大程度上，反映了刘询为帝者的胸襟气度。
自霍氏一门被诛除以后，刘询放开手脚，大刀阔斧地对国家各项政策进行改革。因为刘询在早年，一直生活在民间，也时常受到吏治腐化所致的官员的欺压，因而及至登基，改革吏治便成为他心中最为迫切的愿望。
对于吏治改革的必要性，宣帝说道：“吏不廉平则治道衰。”所以，他即位后，宣布亲自过问政事，省去尚书这一中间环节，恢复了汉初丞相既有职位又有实权的体制。除此以外，宣帝还特别重视地方长吏的选拔和考核，并下大力气整饬吏治。为此，刘询建立了一套对官吏的考核与奖惩制度。他多次下诏对二千石（郡守级官吏）实行五日一听事制度；不定期派使者巡行郡国，对二千石官员的工作进行考察；根据考察结果，宣帝对其进行奖赏或者处罚。他颁布诏令说：“有功不赏，有罪不课，虽唐虞犹不能化天下。”因此，在宣帝当政的二十余年间，一大批因政绩突出的官员受到了奖励，或以玺书勉励，增秩赐金，或爵关内侯，升任九卿或三公。而对那些不称职或有罪的官吏，则严惩不贷。
随着这些措施的推行，一大批符合汉宣帝价值观的“良吏”便逐渐造就而成，服务于大汉朝的各项职能部门当中。
经过宣帝时期的改革，吏治呈现出一个特别重要的特点，即官吏“久任”制发展到较为完备的时期。
一方面，官员“久任”的实施范围已经从原本的朝廷大臣扩大到地方高级官员。以前只有侍中、尚书等参掌朝政的亲信近臣得蒙荣宠，到现在，连郡太守一级的高级地方官也多有“久任”者。
汉代的郡国介于中央与县之间，在中央与地方的关系中，郡国郡守起承上启下、上传下达的重要作用。郡国守相的好坏，关系到一方的安宁与否的同时，也关系到国家的治乱兴衰。
刘询深刻地认识到这一点，因而他在选任郡国守相，对于标准的制定和施行十分慎重和严格，其间规定：郡国守相首先必须由朝中大臣举荐，其次则需要皇帝亲自召见考核，考察其治国安邦之术。
另一方面，不轻易提升调动上述重要官员，不管他们有多大的功劳。国家只会另外寻求对策，给良吏以物质、精神两方面的奖励和褒奖。
《汉书·宣帝纪》记载说道：“至于子孙，终不改易。”“枢机周密，品式备具，上下相安，莫有苟且之意也”，这是当时宣帝对于亲信近臣升迁贬谪的做法以及所取得的成就。
对此，上至朝中一品大员、小到地方郡守县令，在政令施行之初，都不太理解皇帝的心思，宣帝于是坦言道：“郡守是‘吏民之本’，如果时常调动变易就不会被其属下尊重，上下难以相安；如果实行‘久任’制，百姓知其将长时期在职，就不敢欺罔上司，自然就会‘服从其教化’”。
为了表示对治理地方确有优异政绩的郡太守的奖励，宣帝会向其颁布玺书嘉奖勉励；在原有的薪俸基础上增加俸禄；赏赐金钱若干；甚至拜爵至关内侯，使之得以享受政治名誉与经济利益。