杨素率领十万大军，水陆并进，开赴江南.
在离开长安赶赴江南平叛的行军途中，杨素即命行军长史为他准备了关于江南各路反叛的详尽资料，和军中诸将进行了认真研究，针对各路叛军的不同情况拟定了作战计划。
因此次统军平叛，杨坚仍命他率领前次伐陈的西路军做为主力，所以，杨素首先将兵锋指向了在江西鹜州一带起兵反隋的汪文进一路叛军，离开长安，东出潼关即转而南下，在江陵弃马登船，率领八只“五牙”巨舰为主力的隋军舰队浩浩荡荡驶离汉口码头，沿江而下，直杀向了鹜州。
汪文进本是南陈军中的一名水军将佐，此次起兵反叛，手下聚集了两万水军将士，带有数百只青龙战船，扼守大江中游通往下游的水路要道，本已自称子，然于南陈宗室陈君范在浙东会稽称帝以来，就遥尊陈君范为皇帝，被陈君范册封为大都督。
当杨素尚未离京之时，汪文进就得到陈君范派人传来的消息，知道隋朝很可能会派出杨素前往江南平叛。他久闻杨素统率的隋军水军在伐陈一役中屡败南陈水军，因此早早地就做了防范：在九江至鹜州大江沿线靠近南岸的水中密布了无数的暗桩，且依附江心的若干处岛、滩涂、绿洲修建了二几座水中别栅，意图将杨素率领的水军阻挡在江西境内。
杨素派出斥兵侦知了汪文进一路叛军在大江南岸沿线密布下暗桩、大举修建水中别栅的情况后，当即改变进军路线，命李彻率领一万人马从陆路绕过江西境内，改从下游的安州乘船渡江，先自陆路对汪文进叛军发起了进攻。
尔后，趁汪文进所部注意力皆被李彻吸引至陆路的机会，命麾下水军改乘蚱蜢船避过对方在南岸沿线水中密布下的暗桩，直接对其展开了前后夹攻，打得汪文进大败，被迫放弃鹜州，欲率领残部逃往浙东去投奔陈君范，结果在半路上恰和隋军宇文述所部遭遇，汪文进本人被隋军活捉。
杨素麾下的水军在配合李彻所部陆军打败汪文进主力后，随即调头对大江之中十几座叛军别栅发起了攻击，没费多少周折即劝降了这些别栅中的守军，同时又派人清理了南岸沿线水中的暗桩，使得舰队主力得以顺利通过中游水域，进入到了叛乱频发的下游地带。
在江浙一带南陈统治的核心地带，主要的叛军有三路：西边一路是以乐安人蔡道人为首的叛军，一度占据了建康城东的蒋山等地，直接威胁到了建康城；东边的一路是以吴州人李棱为首的叛军，纠集了萧岩叔侄麾下的残兵游勇，共约水陆三万兵马，攻陷了吴州城，并以此为据点，同西、南两路叛军遥相呼应，互为声援，声噪一时；南边一路以会稽人高智慧为首的叛军因最先拥立陈君范称帝，在三路主要叛军中俨然居于首领的地位，且兵马数目不详。
杨素一心想赶在杨广抵达广陵前扫平江南叛乱，故而突破了大江中游叛军防线后，随即分兵两路相继对西、东、南三路叛军发动了猛烈进攻：由他亲率水军主力，以李彻和来护儿分别充任水路两军先锋，对蔡道人一路叛军实施歼灭后，会合宇文述所部隋军，主攻李棱率领的东路叛军；同时，派出行军总管史万岁率领精兵八千自鹜州转向东南进军，直插南路叛军据守的会稽一带，对高智慧一路叛军展开清剿。
西路叛军首领蔡道人本是一出家道士，只是在南陈亡国前被陈叔宝强令僧尼、道士皆应执役时加入了南陈军队，成为了军中一名低级将佐。后来见江南各地叛军纷纷揭竿造反，他也不甘落于人后，遂纠集了数千人马在建康周边造反作乱，意图率军攻占建康，大肆抢掠一把即南逃至岭南一带过逍遥自在的日子。
首领即作如此打算，他麾下的这几千叛军战斗力强弱也就可想而知了。
趁着江南烽火再起，留守江南的隋军大将宇文述率军外出平叛之际，蔡道人率其党徒对守备力量空虚的建康城发动几次虚张声势的攻势，攻占下城郊几座镇子还行，但在李彻、来护儿率领的隋军先锋主力面前，他们就是一帮乌合之众，禁不起两三个回合，便作鸟兽散了。蔡道人也在凫水逃跑时，被来护儿麾下的水军捉到，押送回中军交杨素发落、处置了。
自杨素离开长安算起，直至先后平定了鹜州汪文进、蒋山蔡道人两股规模较大的叛军，前后费时尚不到半个月，其中两军交战的时间仅仅两三日，可谓是兵锋所向、横扫江南，无人可堪匹敌。
然而，在接下来乘胜进军，清剿东路李棱叛军的过程中，杨素却遇到了一个强劲的对手，以致险些阴沟里翻船，败在他的手下。
这件事还要从李彻、来护儿两位隋军先锋击溃西路蔡道人一路叛军，与宇文述所部在吴州城西三十里的沙家坞会师讲起。
在李彻、来护儿率军与宇文述所部会合前，宇文述已率军歼灭了大大十几股活跃在江浙一带的叛军，正准备对李棱一路叛军占据的吴州城发起正面进攻，值此时机，恰与李彻、来护儿所部会师于吴州城西，三位隋军将领自然对一鼓作气、从叛军手中夺回吴州表现出了极大的自信，于会师当晚，即在军中大摆酒宴，三个人聚饮至三更时分，方才各自回帐休息。
就在三个人回帐沉沉大睡之际，吴州城内的李棱派出一枝人马前来偷营劫寨，不仅放火烧掉了隋军的辎重粮晌，更有一道黑影趁隋军营中混乱之机，悄悄