嘉庆二十五年(1820)七月，林则徐外任浙江杭嘉湖道。他积极甄拔人才，建议兴修海塘水利，颇有作为。但他感到仕途上各种阻力难以应付，曾发泄“支左还绌右”“三叹作吏难”这样的苦闷。终于在次年七月借口父病辞职回籍。林则徐为人民做过许多好事，但由于性情过于急躁，请人写“制怒”大字悬挂堂中以自警。
　　 道光二年(1822年)四月复出，到浙江受任江南淮海道，未履任前曾署浙江盐运使，整顿盐政，取得成效。林则徐受到道光皇帝的宠信，很快跨入官场上青云直上时期。道光三年(1823年)正月，提任江苏按察使。在任上，他整顿吏治、清理积案，平反冤狱，并把鸦片毒害视为社会弊端加以严禁。江苏这一年夏秋之际大雨成灾，松江饥民聚众告灾，汹汹将变。林则徐反对调兵镇压，亲自赴松江安定灾民，采取一系列救灾措施，缓和了阶级矛盾。年底入觐归来，署江宁布政使，让林则徐负责全省灾赈事务。但道光四年秋，林则徐先后遭父母丧，在籍守制。直至十年正月再度出仕。
　　 道光七年(1827)六月任陕西按察使、代理布政使，在任一月即调任江宁布政使。等待交接期间，陕南略阳一带发生水灾，遂留陕暂理原职，赴略阳察看灾情，安置受灾百姓，同时还参与了县城移建事宜。往返陕南时，曾赴紫柏山张良庙、定军山诸葛亮墓、武侯祠凭吊。他在《定军山谒武侯墓》诗中写道：“大星虽陨大名留，一线皇纲诩汉刘。抱膝之人知管乐，鞠躬终右匹伊周。定寒沔水居民泪，月黑祁山故垒秋。归首定军军莫定，墓门深锁阵云愁。”
　　 道光十年(1830年)服丧完毕。道光十年(1830)秋任湖北布政使，翌年春调任河南布政使，擢东河河道总督。从六月到次年七月，林则徐先后任湖北、河南、江宁布政使。“—岁之中，周历三省、所至贪墨吏望风解缓。疆臣重其才，皆折节倾心下之。”他为清朝统治的长远利益，锐意整顿财政，兴修水利，救灾办赈”，“一时贤名满天下。”十月，升任河东河道总督。面对关系到河道民生重大问题，决心“破除情面”，“力振因循”，以求“弊除帑节，工固澜安。”为了治理黄河，亲自顶着寒风，步行几百里，对备用的几千个治水商梁秸进行检查，还将沿河地势，水流情况。绘画张挂，便于了解和治理。
　　 道光十二年(1832年)二月，调任江苏巡抚。从这一年起到十六年间，他对农业、漕务、水利、救灾、吏治各方面都做出过成绩，尤重提倡新的农耕技术，推广新农具。他在实践活动中认识到：“地力必资人力，土功皆属农功。水道多一分之疏通，即田畴多一分之利赖。”林则徐这种农耕思想，是在实际考察中体验出来的。道光十二年(1833年)，江苏大水灾，林则徐不顾报灾限期和朝廷斥责，详尽陈述灾情，呼吁缓征漕赋，提出“多宽一分追呼，即多培“一分元气”请求，这对发展生产，苏息民困在客观上起了有利的作用。同时，他分析水灾原因是由于吴淞江、黄浦江、娄河及与之相表里的白茆河年久失修，逐年淤塞所致，于是决定兴修白茆河、娄河，还修建海塘，这些在我国水利史上都有一定的地位。在这一时期，林则徐对清王朝的财经政策、贸易政策提出异议，反对一概禁用洋钱，并第一次婉转地向道光帝提出了一套自铸银币，建立本国银本位制度的主张。这是中国近代币制改革的先声。这也是适应政治经济形势变化，保护本国工商业者，保护民族经济独立发展，抵制西方资本主义经济侵略的先进思想。