张俊经历的时代，社会阶级矛盾尖锐，外患不绝，内乱不休。正因为如此，南渡诸将，不管是张俊还是岳飞，除了对外要抵御金敌，对内还要参与平寇 戡乱，比如岳飞就曾率军镇压了洞庭湖地区的杨幺起义。此种境遇，无关个人的选择，而是由当时内外交迫的特殊环境所决定。前文就已经提到过，张俊早年积累的军功名望，其实大半就在平定京东、河北一带的民变。民变以外，又因为将骄兵堕等种种原因，还有屡屡发生的兵变。南宋初期，由于政权不稳，局势复杂，各地的农民起义和游寇盗贼更是此起彼伏，使得赵构政权陷入腹背受敌的窘境。 

在造反有理的年月，大家对农民起义和武装反叛都给予无限的同情与肯定。应该说，造反激于现实的不平，确实会提出一些合理的诉求。但也不必讳言， 南宋的许多造反，威胁的并不止是赵姓一家的皇权，同时也给社会经济与百姓生活带来严重危害，其负面影响往往要远大于正面价值。以张俊参与平定的“明受之变”为例，苗傅、刘正彦不满赵构，骤然挑起兵变，却扶立不满三岁的小儿来做傀儡皇帝。很显然， 这既无益于抗金大局，也无助于解决王朝自身的症结，愤然相争者，无非是某些人的私利罢了。幸运的是，人们的观念已在悄悄发生变化，大家读历史，多了几分冷静的理性，少了几分跟着感觉走的任性。 

针对南宋初期的社会动乱，当时有士大夫一语道破：“方今兵患有三：曰金人，曰土贼，曰游寇。”（《建炎以来系年要录》卷四十二）金人是外患，不须多说。土贼，主要指各地的农民起义，“原其实情，而似有可矜”。至于游寇，则是指那些土匪式的武装集团，四处作乱，危害巨大。南宋立朝150余年，大规模的农民起义极少见，真正带来严重骚动惊扰的，多是那些游寇武装。其成员则主要来自北宋末年的勤王义军或中原难民，靖康之乱后，他们无所归依，许多都沦为流民盗匪。也有的本是正规宋军，因为战败溃散，辗转流徙，最终也啸聚为游寇匪患。

南宋初年，赵构逃到江南，金军尾随追杀过来，节节败退中，“浙兵皆散而为盗”。因此，在张俊明州阻击战后不久，赵构就任命他为两浙西路、江南东路制置使，率所部“招收群盗”，成为剿灭江浙盗寇的主力。为便于统一领导，朝廷命后军统制陈司恭隶属张俊，两浙宣抚使周望所部也划归张俊，除刘光世、韩世忠之外的其余诸将，全部都受张俊节制。建炎四年（1130）六月，赵构整顿御前亲军，更名为神武军，张俊又被任命为神武右军都统制，除检校少保、定江昭庆军节度使。当年十月，张俊率领岳飞等人，在湖州安吉招降了游寇首领戚方，扫平浙西内乱，改任江南招讨使。 

然而，南宋各地游寇作乱的消息，仍接踵而至。其中，孔彦舟盘踞武陵，张用盘踞襄汉，特别是李成所部，更是游寇武装中势力最大的一支。李成本是北宋弓手，以勇悍闻名，后来脱离官军，企图在江淮间割据自立。赵构即位后，对他怀柔招安，不料李成却反复无常，屡降屡叛。他纠集亡命之徒，号称数十万之众，陆续攻取江、淮、湖湘十余州，最后还从宋朝官军手中夺取了长江中下游的军事重镇江州（今江西九江）。李成不但日益坐大，而且还利用符谶等手段蛊惑百姓，大有席卷东南，乘乱称霸的架势，成为南宋内部的心腹大患。 

绍兴元年（1131）正月，边境暂时无虞，宋廷决意派遣得力武将，剿灭野心勃勃的李成，永绝后患。张俊主动请缨，于是赵构改命他为江、淮路招讨使，率部赴江西剿寇。一起随军出征的部将中，包括杨沂中、岳飞、陈思恭等人。 当时，李成坐镇江州，其党羽马进已南向攻取筠州（今江西高安），张俊审时度势，认为洪州（今江西南昌）靠近鄱阳湖，又位于江、筠之间，地理位置至关重要，只要夺取洪州，便能一举剿平李成。于是，官军连日急行，抢在马进之前占领洪州城。入城之后，张俊没有马上出兵，反而偃旗息鼓，敛兵不动，严令“将士登城者斩”。双方对峙一月有余，马进终于按捺不住，派人用大字文牒来邀战，张俊反用小字文牒答复，故意示以怯懦。果然，马进以为张俊胆小害怕，便放松了警惕。那边马进骄兵松懈，这边张俊却开始厉兵秣马，召集众将紧急部署战斗。 

张俊用岳飞担任先锋，杨沂中沿赣流而下，径过生米渡，出其不意，奔袭七十里，直至筠州。马进背水恃险，列阵相迎。张俊考虑敌众我寡，遂用杨沂中以骑胜敌之计，他自己亲率步兵向前正面交锋，杨沂中、陈思恭带着数千骑兵精锐，埋伏到山后，相约午时夹击。双方激战至午时，官军精骑突然从山上骤驰而下，马进部队惊慌失措，纷纷丢盔弃甲。这是张俊领导的一场以少胜多的大战，官军毙敌数万，生擒八千。由于担心俘虏临阵倒戈，张俊又让陈思恭趁夜把他们全部都杀了。（徐梦莘：《三朝北盟会编》卷一百四十五）战争的血腥残酷，由是可见，难怪有人说“天下无义战”。 

张俊收复筠州等地，前线捷报传至临安，赵构御笔亲诏，一面赞扬张俊“解朝廷之忧”，一面又激励要宜将剩勇追穷寇，他说：“朕待卿最亲，卿事朕最久。君臣之际，休戚实同。宜乘势之已衰，当官军之已振，驱除剿戮，收建全功。”张俊自然不会放过建功的大好良机，在收到高宗诏书前，他就已经追至奉新楼子庄。李成部下商元在草山伏击，张俊料知敌情，派步兵取小道偷袭，杀伏夺险，乘胜追至江州， 并在江州城下再次大败马进。李成被迫放弃江州，渡江而遁。因为恐惧张俊，李成等人都称张俊为“张铁山”（《宋史•张俊传》），由此亦可见张俊统兵治军之成功。张俊收复江州，不久兴国军等地游寇听说张俊来到，也纷纷逃去。其后，张俊又引兵渡江到黄梅县，亲自同李成交战。李成汲取奉新失败的教训， 占据石幢坡，凭借山险用木石滚压官军。张俊先派散兵游卒佯攻，自己身先士卒，冒着箭矢滚石，率众夺取险隘。李成数万人马全部溃败，马进被追兵杀死， 李成逃到北方投降了伪齐的刘豫。紧接着，张俊在蕲 州打败割据一方的李允文部，招降了李允文本人，又派岳飞进击游寇张用，张用败后也接受了招安。 

张俊一举平定最大的游寇李成及各路叛军，稳定了江南各地和长江沿线，让南宋政权避免了腹背受敌的危险，得以集中力量抵御金人，可谓厥功至伟。 南宋时人说过：“先平内寇，然后可以御外侮。”（《建炎以来系年要录》卷四十七）其实早在北宋初期，那个“半部论语治天下”的赵普，在他辅佐赵构的祖宗时，就提出了“攘外必先安内”的定国大计，“中国既安，群夷自服”。看起来，太祖、太宗遥相传下的“祖宗家法”，真的是赵构取之不尽、用之不竭的治国法宝。