光绪八年八月十九日（1882年9月30日），陈宝箴在河南河北道（治所在河南武陟县）任上擢浙江按察使。清制，按察使，为正三品官，位居布政使之次的地方大吏，例由各省运使、道员升任，“掌一省刑名按劾之事，振扬风纪，澄清吏治”，俗称臬台。以不尽恰当的类比，按察使一职相当于今日一省的高级人民法院院长兼纪委书记。在官缺远少于今日的清代，一般来说，按察使可谓一省之内仅次于巡抚、布政使的三把手，实足的副省级干部。
然而，任命谕旨发布之后，陈宝箴却未能马上晋京觐见或赴任，而是因河务未能了结，请求延期赴任。结果在原岗位上又忙活了几个月，方才于当年十二月初八日抵京，等候皇帝、太后召见请训。觐见事讫，又要回趟老家。而这样一来，给浙江方面带来了麻烦。
朝廷在任命陈宝箴的同时，免去现任浙江按察使孙家榖之职，令其到京另候简用。孙臬台接旨，即欲交卸北上，表面上看是遵旨而行，心里却有一个小算盘。孙氏老母寿逾八旬，远在原籍安徽寿州，他打算借进京之机，折回老家，看望老母，一尽孝心，所以想尽快离开杭州。然而，经不起浙江巡抚陈士杰再三挽留，孙臬台不得已暂留原任，而让家眷人等起身先行。这样再挨了两个月，到十月下旬，孙臬台说什么也不愿意再待下去，陈巡抚也不好意思再行强留，只好另行寻人代理。殊不知，代理人也不好找。中丞大人先后找了盐运使、杭嘉湖道，皆遭婉谢，人家大概有要缺繁缺在身，不愿去做这件吃力不讨好的差事。最后答应署缺的是候补道唐树森。
陈宝箴于光绪九年四月初三日（1883年5月9日）到任浙江按察使，其子陈三立稍后抵杭州父亲官所。六月二十二日（7月25日），陈宝箴因在河南河北道任上参与会审王树汶一案，遭都察院署左副都御史张佩纶弹劾，降三级调用，并着发往湖南，交署湖南巡抚庞际云差遣委用。
按，王树汶案与杨乃武案同列晚清四大奇案之内，王树汶本河南盗贼中人，系一行劫案从犯，因主犯逃脱，县役逼王氏认供顶替为主犯，经提省会审定谳，按律处斩，临刑，王氏呼冤而事发，参与会审此案者皆先后被革职或降职。陈宝箴系由复审钦差大臣、河东河道总督梅启照派往参与审案，并随同画押，未料因此牵连而遭降职处分。
张佩纶弹劾陈宝箴的奏章，除提出陈宝箴应为王树汶案同其他有关官员一并议处外，还指出陈宝箴授任浙江按察使之后晋京觐见，正值该案由刑部提审之时，不知避嫌，“日营营于各承审官之门，弥逢掩饰”，对这一无中生有的指控，陈宝箴表示强烈不满。在七月二十一日（8月23日），即交卸按察篆务的前一日，陈宝箴呈上《奏报交卸臬篆日期沥陈愚捆并谢恩事》，奏文中坦陈自己应为王树汶案担责，为“仰蒙圣恩，不加重咎，仅予镌级（降级）”而“感激涕零”。同时，对张佩纶奏折中所谓在京师钻营于各承审官之门的指控提出抗辩，认为-“以无生有，信口诋諆”。在详陈自己在京之时所作所为之后，要求朝廷对张佩纶所指控的情节进行调查，若属实，则情愿“严加治罪”，否则，如此不考事实，恣意黑白，不公不平，“独立之士孰不寒心”？这份陈情奏折，一则充分体现了陈宝箴心胸之坦荡，秉性之忠直，二则亦印证了王文韶后来举荐陈宝箴时所作评语“该员才大而性刚，往往爱惜羽毛，有不轻寄人篱下之概，所如稍不合，辄置荣辱于度外”之不虚。
对于陈宝箴的受处分，同情者固然不少，如甫因云南军需报销案遭劾而乞归杭州原籍奉养老母的军机大臣王文韶得知此事后，在七月初四日（8月6日）日记中写道：“右铭（陈宝箴的号）来谈，近以河南王树汶一案部议降三级调用，亦意外事也。”后面几个字表达了深深的惋惜。王文韶与陈宝箴有着非同一般的关系，所以才会如此表达。而那些个与张佩纶同一战线的清流派言官，对陈宝箴的抗辩很不爽，亟欲火上烧油。如陈启泰上奏弹劾说，降调人员本不应哓哓置辩，像陈宝箴这般“始终取巧”的“狡赖”之员，“应请严予惩处”。刘恩溥亦上奏说，降调人员已无奏事之责，而陈宝箴不安义命，托于有关名节，负气径陈，“实则极为巧诈”，以后再有这样的事件，概不允许自行陈请，即使呈请上来，也不必理它（毋庸置议）。
好在朝廷没有无视陈宝箴的抗辩，更没有因其倔强之言而降罪，反而指派军机大臣阎敬铭彻查“传承审各员有无与陈宝箴往来情事”。阎氏调查之后，于八月二十一日（9月21日）向朝廷汇报说，陈宝箴是否到京营营，“今既查无实据，自系传闻之讹”，至风闻言事，本来就是言官之责，今既查无确据，则可断定“张佩纶所奏得自风闻”。这一被陈三立评之为“首鼠两解”的调查结果，为朝廷所采信，即于次日（八月二十二日，9月22日）发布上谕说：“此事既据阎敬铭査明并无实据，即著毋庸置议。钦此！”此谕为陈宝箴免职降级之事做了最后的定论，陈宝箴也因此不再能够回到浙江按察使的位子上，以陈三立的话来说，“遂归，自放山水间”。
如果从任命之日算起，迄交卸篆务，陈宝箴在浙江按察使的位子上为时长达11个月，而如果从到任视事开始计算，则只有107天，仅比他后来深度参与其中并因此罢职的戊戌维新变法多了4天。按说，如此之短的任期，难以有所作为，但陈宝箴是一位务实肯干之员，绝不背虚度光阴，辜负朝廷信任。他为浙江按察使司衙门题写了一幅对联，道是：
上引之语虽为陈宝箴所自道，但他没有必要在书信里向好友编造或夸大自已的勤政事迹，故完全可以相信是事实。作为该衙门的最高长官，既有两个谳局（初级审判机构，相当于审判法厅）专门研究审判案件，的确可以“卧治”，但他却“日皇皇如不暇给”，在短短的任期里，审决了40多个案子，足见其为政之勤。此信中还提到：“西湖佳处，从前几至抹杀者，至此时始省识真面目矣。”浙江按察司衙门（在今延安路庆春路路口，浙江省高等法院及杭县地方法院旧址即其地）距西湖不到1000米，踱步即可抵达，而这位臬台大人竟然无暇领略西湖风景，真实得让人难以置信。
现在确切知道，陈宝箴任浙江按察使期间，做了两件未来得及完成的事情。一件是对省城书院进行了“轮考”，所谓“轮考”，相当于今日纪检部门的巡查。陈宝箴抵任不久，即轮考省城三大书院及诂经精舍孝廉堂各一次。书院之弊，第一宗为钻营请托。候补人员因贫无生计，往往顶名投卷，又与阅卷人员搞好关系，得到奖赏，按比例分润，致使真才寒士无缘得奖而心寒。此弊在诂经精舍最为严重，因其缴卷期限（三日）较其他书院（一日）为宽，且奖额最优。其实，书院的这些弊端早已是公开的秘密，当局者不是不知，只是不愿动真格整治。而这位陈廉访（按察使之俗称）本是务实求真之人，兼之新官上任，面对如此明显的失政，岂能轻易放过。他的办法是亲自到书院监督扃试（关门考试），彻底了解弊病严重到何等程度，然后再改定书院章程。可惜未及施行，大人已遭解职。舆论评之曰：“士林为之失望。”
另一件事，是对臬司衙门进行了改修。此事因为《申报》的记载，而为今人所知。光绪九年五月初五日（1883年6月10日）《申报》第三版有一则《柏署重修》之报道。报道说，杭垣臬司署向在钱塘门附近，相传为宋大理寺遗址。署中房屋高旷，古木阴森，其阴惨萧杀之气逼人毫发。在太平天国战乱中被焚。同治三年（1864）重建，堂构一新，规模悉依旧制。有人说衙中大堂及穿堂等处均碍风水，恐怕对长宫不利，却无人相信。可是事情果然蹊跷，接下来有几任臬台大人均在任中病故，于是人们纷纷相信臬司衙门的风水真的有问题。报道接着说：
