税制革新初获成效，国库充盈，民心安定，林缚却深知“新政落地，吏治为要”。若地方官员冗滥、贪腐滋生，再好的政令也会沦为一纸空文。这日，他携《吏治整顿六策》入秦王府，决意推动新一轮改革。
李世民正与房玄龄审阅各地政绩奏报，见林缚到来，起身笑道：“先生此番又有良策？近来各地官员勤勉者增多，但冗官滥职、推诿塞责之弊仍在，正需先生擘画良方。”
林缚躬身呈上策论，朗声说道：“殿下，如今官多为患，有些州县员外官、试官充斥，甚至出现‘办公无坐处’的乱象，既耗国库俸禄，又误政务民生。臣拟六策整肃吏治：其一，裁汰冗员，撤销冗余司署，罢免无实职的员外官、试官，非有战功政绩者，永不复用；其二，严明铨选，官员任命全归吏部，杜绝‘斜封官’‘请托官’，量才授职，违者严惩；其三，推行考核，每年春秋两季，由吏部与监察御史联合考评官员，‘优者升、平者留、劣者罢’；其西，强化监察，扩大御史台职权，分派御史巡视各州，专查贪腐、徇私之事；其五，规范俸禄，严禁官员苛索民财，同时提高清廉官员待遇，奖优罚劣；其六，开通言路，允许百姓上书举报失职官员，由御史台核查处置。”
房玄龄翻阅策论，赞叹道：“此六策首击吏治要害，尤其是裁汰冗员、严明铨选，若能推行，必能廓清官场风气。只是裁汰数千冗官，恐遭既得利益者阻挠，甚至宗室亲王出面说情。”
“房先生所言极是，臣早有准备。”林缚回应，“首先需殿下与陛下坚定立场，不以亲故之恩废法度；其次，先从长安及关中各州入手，树标杆、立典型，再向全国推广；最后，对阻挠改革者，无论官职高低、出身贵贱，一律依法处置，以儆效尤。”
李世民眼中闪过果决之色：“吏治不清，新政难行！本王即刻入宫面圣，力推此策。先生可联合御史台，先行核查长安冗官名录，待圣旨下达，立即执行！”
李渊览奏后，虽顾虑宗室不满，但见税制改革成效显著，且林缚所言切中时弊，终是准奏：“命林缚总领吏治整顿事宜，御史台全力配合，凡阻挠者，以紊乱纲纪论罪！”
诏令下达，朝野震动。不少冗官托关系、走门路，甚至宗室亲王也出面为亲信说情。有申王李成义派人求见林缚，欲为府中录事破格升任参军，林缚当即回绝：“量材授官，当归有司，若以亲故之恩滥授官爵，必乱国法，此事绝无可能！”
随后，林缚联合御史台，雷厉风行地展开整顿。仅长安一地，便罢免冗余官员三百余人，其中不乏靠请托、买官上位者。有薛王李业的舅父王仙童，依仗权势欺压百姓，被御史弹劾后，李业向李渊求情，林缚首言进谏：“仙童罪状确凿，若纵容不惩，何以服众？”李渊最终采纳其言，依法处置了王仙童，震慑了一众豪强贵族。
裁汰冗员的同时，考核制度同步推行。林缚令吏部制定详细考评标准，涵盖政绩、民生、清廉等维度。河南刺史因推行农桑、水利有功，百姓安居乐业，被评为“优”，越级升任京兆尹；而河北某县令漠视民生，赋税征收不力，被评为“劣”，当即罢免。
考核与奖惩挂钩，极大激发了官员积极性。各地官员纷纷主动巡查农事、兴修水利，推诿扯皮之风日渐消散。但仍有顽固分子顶风作案，凉州刺史勾结豪强，虚报政绩、克扣俸禄，被巡视御史查获。林缚当即下令将其押解长安，当众宣判罪状，依法处斩，并张贴告示警示百官：“凡贪腐徇私、玩忽职守者，虽远必诛！”
李建成见林缚整顿吏治成效显著，李世民声望愈发稳固，心中焦灼，暗中联络被罢免的冗官，教唆他们散布“林缚专权、打压宗室”的流言，甚至试图拉拢御史台官员，意图诬告林缚。
好在林缚早有防备，令御史台加强内部监察，同时鼓励百姓举报流言制造者。很快，便查清流言源头是几名被罢免的冗官，且背后有东宫官员指使。林缚当即奏请李渊，将涉事官员革职查办，并公开案情，流言不攻自破。
数月后，吏治整顿初见成效。全国冗官减少近半，国库俸禄开支节省三成，官员效率显著提升，各地政务顺畅推行，百姓对新政的拥护度愈发高涨。李渊龙颜大悦，下旨褒奖林缚：“先生整顿吏治，廓清风气，功在社稷，特赐‘忠勤伯’爵位，赏锦缎千匹！”