张居正执掌了大权，大家都看着他要干什么，儒士们又在喋喋不休地议论王政霸道之类，张居正断然说： “天下事岂有不从实干而能有济者哉!” 和北宋的王安石不同，他根本不去谈什么改革的必要，而是提倡祖宗之法，即力图恢复明初的行政效率。当时的明朝官府就像一台生了锈的巨大机器，仅靠惯性在缓缓地转动，因循敷衍的风气腐蚀了每个部件，各衙门每天忙忙碌碌，只是在写公文、传递公文，毫无实效可言，上司就像婆婆整天唠唠叨叨，下级就像媳妇充耳不闻，上有政策，下有对策，凭你有千条善法也无一能行。张居正对此痛恨之极，首先就对此开刀。万历元年六月，考成法实施。具体方法是各衙门除例行公事外，立文册二本，一本送吏户礼兵刑工六科备注，公事办完一件，注销一件，一本送内阁备考。居正以六科控制六部，再以内阁控制六科，各项公务按轻重缓急及道里远近定有期限，层层考核，每月有小考，每年有大考，办事拖拉者还会受到刑事处罚，使官员都处于紧张状态。于是下级对上级不敢敷衍了事，建言立法的人考虑到实效，也不敢随便发号施令了。结果，中央的号令一下，“万里之外，朝下而夕奉行，如疾雷迅风，无不披靡。”通过考察，裁撤了一批无能多余的官员，奖励了一批勤政能干的官员，在一定程度上改变了嘉靖以来的冗官冗员的现象。同时，还取得了相当的经济效益。过去拖欠赋税的地方完纳了，以往层层克扣、中饱私囊的现象减少了，正如他所预料的：“考成一事，行之数年，自可不加赋而上用足。”通过考察，张居正深入了解各方面的人材，然后量才录用，委以重任。如戚继光、李成梁守北边，殷正茂等安抚南方，潘季驯治河，皆建功立业，成为一代名臣。