当时，他们都客居扬州。由于各人都对受到的惩罚耿耿于怀。又对武后擅权愤愤不平，于是不谋而合地乃以拥护庐陵王李显复位为号召，阴谋发动兵变。
他们先是捏造扬州长史陈敬之阴谋叛变，串通并假意报告在朝廷的同党、御史薛璋，通过御史薛璋火速将陈敬之追捕下狱；在完成一系列部署之后，李敬业又假造皇帝命令杀害了陈敬之。
而在扬州官府面前，李敬业则自称新任扬州司马前来当差，又谓奉太后密旨，调兵讨伐高州蛮族酋长冯子猷谋反，并以此为由。打开府库；命令参军李宗臣释放囚犯、役工几百人，发给他们兵器；宰反对他们的录事参军孙处行示众立威。紧接着，在扬州开设匡复府、英公府、扬州大都督府，李敬业本人以匡复府大将兼扬州大都督自居。任唐之奇为左长史，杜求仁为右长史，李宗臣为左司马，薛璋为右司马，江都令韦知止为英公府长史，骆宾王为艺文令。前御史魏思温为军师。
起兵的一切准备工作就绪，李敬业撕破面具，抛弃前番所扮演的角色，找来一个酷似李贤的人做替身，宣称太子李贤未死，逃到扬州，令我发动反抗。
他通过骆宾王书写讨伐武后的起兵檄文分送到各州县,企图激起全国对武后的愤恨，煽动民众对武后的反抗。不久，就有楚州司马李崇福率领所统辖的三县人马响应。于是，一场惊天动地的叛乱随之爆发。
李敬业本应姓徐。早在唐高祖时期，他的祖父徐世勣因武功盖世，品德高尚，得高祖李渊赏析,被赐予李姓，时为李世勣。
永徽年间，因犯太宗李世民之名讳，改单名勣，曰李勣，乾封二年，这个战功卓著、威名远扬的功臣去世，被追赠太尉，扬州大都督。李敬业乃沿袭其祖父姓李，并按朝廷惯例被授予爵位。
武后向宰相裴炎问策，以求取得他的支持。
裴炎不以为然，却怪罪武后道：“天子年长，未俾亲政，乃至滑竖有词。”声称，“若太后返政，则此贼不讨而解。”所谓“至滑竖有词”，实际上就是指责武后不还政于皇帝的行为，让李敬业这帮小子授以口舌。
在这危难时刻，一个阅历甚深、举足轻重的大臣，不但不能为武后出谋献策，反而为李敬业开脱罪责，把李敬业他们的谋反归咎于武后，这种隔岸观火、见死不救的行为，在武后看来，无疑于与徐敬业坑壑一气。
即便是局外人也不难看出，当李敬业打出“拥立中宗，匡扶唐室”旗号造反的时候，裴炎用冷漠和强硬回敬武后，虽不是直接响应李敬业，也不至于赞成或支持李敬业以造反方式迫使武后下台，但却是他多日积蓄在心中对武后迟迟不还政于皇帝强烈不满的宣泄。
说到底，他希望武后还政于皇帝的心情是迫切的，对李敬业他们的同感也是显而易见的。
在裴炎看来，只要武后还政于皇帝，就可以化干戈为玉帛。武后当然不会这样来理解，裴炎不能旗帜鲜明地反对李敬业造反，这就等于支持或默认李敬业的造反，后来查明，同李敬业一起造反的就有裴炎在朝廷的亲属薛璋。