南北朝时期，虽然王朝时不时的变换，但无论怎么变，都有几个共同特点∶篡位者都曾经由于内乱或者外患而在旧王朝中立下大功，手中掌握强大的军队，凭借个人威望和实力夺取权力，进而实现改朝换代。
然而，到了北周杨坚这里却成了例外。杨坚既没有特殊的军功，又没有军队，完全是因人成事的幸运儿。以至于清朝著名学者赵翼曾说过∶“古来得天下之易，未有如隋文帝者，以妇翁之亲，值周宣帝早殂，结郑译等，矫诏入辅政，遂安坐而攘帝位。”
事实上，赵翼的这段评论也是隋唐时期的普遍看法。当时杨坚窃取权力后，有许多忌妒、反感甚至反抗者。首先扯旗造反的就是相州总管尉迟迥。
尉迟迥之所以对杨坚愤愤不平，原因在于尉迟迥的孙女嫁给了杞国公宇文亮的儿子宇文温为妻，有一次在宗室妇女入宫觐见周宣帝时，被周宣帝看中，收为第五位皇后。宇文温咽不下这口气，于是便起兵反叛，最终落个家破人亡，但尉迟迥对此却沾沾自喜，毕竟孙女婿从王爷换成了皇帝，自己的地位也提高了。
尉迟迥自认为是皇帝的岳丈姥爷，所以总是和杨坚比较，越比心态就越失衡。他所宠爱的后妻王氏又不断煽风点火，而且当时杨坚也担心尉迟迥作乱，让朝廷下令派韦孝宽前来接替尉迟迥的相州总管职务。不过更让尉迟迥不能接受的是，杨坚派来的传旨使者竟然秘密传书给相州总管府长史晋昶，让其做内应，尉迟迥得到这个消息后，气得火冒三丈，立即处斩了来使和晋昶两个人，并迅速集合人马决定与杨坚就此决裂。
当时北周刚刚灭掉北齐，北周在山东地区根基并不深，人心还没有完全归顺，不少图谋大权的人不得已投降了北周，但是一旦有风吹草动，这些人绝不会安于现状。现在尉迟迥决定和杨坚决裂，在这些人看来正是可以利用的机会，他们看到尉迟迥振臂高呼，于是纷纷响应。卫州（今河南淇县）、黎州（今河南浚县）、洺州（今河北永年）、贝州（今河北清河）、赵州（今河北隆尧）等地在尉迟迥宣布和杨坚决裂后，立即打出推翻北周的旗号以响应，于是一时间河南、河北、山东等地颇有山雨欲来风满楼之势。
随着尉迟迥的不断鼓动，加入他队伍的人也越来越多，对杨坚而言最为严峻的是，有些封疆大吏也由最初的观望动摇逐渐走上了对抗自己的道路，例如陨州（今湖北安陆）总管司马消难以其管辖的九州八镇兵马叛周降陈，益州总管王谦率领管辖的十八州兵马反叛，豫州、襄州和荆州地区也是叛乱从生。
除了尉迟迥之外，杨坚其实最担心的就是司马消难和王谦。司马消难本来是北齐的元勋，父亲司马子如是北齐的佐命功臣，曾经担任尚书令，而司马消难本人则是高欢的女婿，官拜驸马都尉、光禄卿，出镇北豫州（今河南荥阳）。司马消难是个风流才子，有些拈花惹草、喜新厌旧的习气，所以与公主关系并不好，而且经常被御史们弹劾贪赃枉法，所以司马消难的名声并不好。齐文宣帝在位时，因生性猜忌，司马消难也受到猜忌，于是为了防止自己会牵连到祸患，他抢先与北周勾结，最终投降了北周，周宣帝纳其女为儿子周静帝皇后，司马消难也借此荣升大后丞，不久后以外戚出镇陨州。
王谦是北周功臣王雄之子，本身没有什么才能，但为人谦卑，所以在朝廷上下口碑不错，承袭父爵而身居高位，对北周政权深有感情。杨坚辅政后，王谦举棋不定，为了个人利益，他曾经派部下奉表进京表示顺从。另外，他又对自己不忠于北周皇室的行为而羞愧不已，始终有伦理道德上的负罪感。因此当其使者自京城回来告诉他朝廷的形势后，他终于下定决心起兵反抗杨坚。
尉迟迥、司马消难以及王谦以匡复北周皇室为口号，三方共同起兵，表面上声势浩大，但是三个人却都有自己的算盘。尉迟迥一起兵就北结高宝宁以联合突厥，南方联结陈朝，并割让江、淮二州给陈朝;司马消难起兵之后为了得到陈朝的支援，将自己的儿子送到陈朝做人质。
事实上，在北周各地反叛四起时，具有战略意义的地区基本都是控制在杨坚手中的。例如幽州、定州七镇掌握在于翼手中，阻断了尉迟迥与突厥之间的联系，使其大有后顾之忧；号称"东南要地"的徐州（今江苏徐州），其总管源雄拒绝尉迟迥的拉拢，出兵讨伐尉迟迥的部将毕义绪、席毗和曹孝达，同时击退了南陈大军的增援，打破了尉迟迥和南陈联合的企图；毫州（今安徽毫州）总管贺若谊西挡司马消难，东拒尉迟迥，并平定了申州刺史李慧的反叛，分割了尉迟迥司马消难两路大军;利州（今四川广元）总管豆卢勤死守本州，为大军进入蜀中打开方便之门。
综观当时整个形势，虽然反叛的人不少，但各地反叛势力基本都分割开来，形成不了合力，因此也就难以对抗以杨坚为核心的中央朝廷，给了杨坚宝贵时间，可以充分地调兵遣将逐个平叛。
杨坚经过一番部署后，以周静帝的名义下达了以韦孝宽为行军元帅讨伐尉迟迥的诏令，同时任命老将梁睿为益州总管，出兵讨伐王谦，任命大将杨素出兵讨伐宇文胄，大将王谊讨伐司马消难，以韦世康为绛州（今山西闻喜）刺史，坐镇关中确保京师安全。
在有些平叛将领看来，自己原先和杨坚不相上下，现在地位却发生了变化，心中难免不服，而且这些人不知道平叛成功后，杨坚究竟会如何对待他们，所以很多人甚是疑虑，这就影响了平叛队伍的士气。更为严重的是，当时尉迟迥也以高官厚禄引诱这些人，杨坚和尉迟迥究竟鹿死谁手还不得而知，所以有些人开始持观望态度，甚至暗中和尉迟迥眉来眼去。
当时李穆的侄子李询向杨坚详细汇报了前线的情况，其中有句话就能证明上述问题∶"梁士彦、宇文忻、崔弘度并受尉迟迥镶金，军中怪怪，人情大异。"
韦孝宽当时对此没有什么良策，毕竟他这个统帅只是对诸军进行遥制，将领都各自领兵，而且当时韦孝宽因为年龄的原因身体也不好，不能总领军务，都是让夫人代为传令，韦孝宽这种做法或许有一种息事宁人的味道。但从表面上看，平叛的军队似乎群龙无首，有一盘散沙的感觉，因此李询建议杨坚派重臣到前线监军。
杨坚虽然对尉迟迥、司马消难以及王谦的叛乱早有思想准备，但是对于眼下来自内部的危险思想上有些准备不充分，加上军情紧急，杨坚心中很是焦急，于是就和刘昉、郑译等人商议，想要撤换韦孝宽，并希望他们之中有人能够到前线督军。
当时李德林见杨坚的想法和行为有些偏离轨道，于是赶忙站出来为杨坚做了一番分析。
在李德林看来，杨坚初掌大权，很像当年曹操挟天子以令诸侯，很多人不服气也在情理之中。在这种情况下，如果听信传言，贸然撤换前线将领，恐怕会适得其反，只会搞得人人自危，军队将会因此崩溃，眼下应该派一名老成持重、有些威望的人到前线去稳定局势，李德林为杨坚推荐的人选是高颖。
恰在此时，东郡太守于仲文被尉迟迥打败，妻子儿女惨遭杀害，只身逃回长安，杨坚立即任命于仲文为河南道行军总管，和高颇一起到东部前线协助韦孝宽处理军务。于仲文是北周勋贵，和前线的众多将领地位相近，与很多人有共同语言，便于沟通。将领们得知于仲文到来后，都纷纷向他打听京城的消息，特别是杨坚的为人。
于仲文其实很明白，众将所关心的其实就是未来改朝换代后，自己究竟能得到什么好处。他同样明白，自己的表态将决定人心向背，于是便极力赞美杨坚，告诉众人杨坚是个"宽仁大度，明识有余，苟能竭诚，必心无贰"的人。
于仲文的到来逐渐稳定住了军心，加上高颖细致地打理军务，平叛的军队又开始拧成一股绳。韦孝宽有了高颖和于仲文的坐镇，也能腾出手来施展自己的军事才能，向尉迟迥展开了猛烈的攻势。
在军心稳定之后，韦孝宽带领大军向武陟（今河南武陟）挺进，与盘踞在武德郡（今河南沁阳）的尉迟迥之子尉迟惇所率领的十万大军隔沁水对阵。为了迅速渡河，高颊建议立即搭桥。三天后，韦孝宽带领先头部队开始渡河，尉迟惇本想趁韦孝宽半渡之时展开进攻，不过他没有想到韦孝宽反而利用他的军队略作后撤之时突然进攻，大军一过河，高颖就下令将渡桥烧毁。士兵们一往无前，大败尉迟惇，而后又在野马冈和草桥击退尉迟迥的伏兵，大军直逼邺城。
尉迟迥实在没有想到，自己的儿子居然这么快就兵败，眼看形势不妙，便立即集结十三万大军，率领二子尉迟惇和尉迟祐，在邺城南城布阵，尉迟迥老当益壮，亲自披挂上阵，带领头戴绿头巾、身穿锦袄的"黄龙兵"结成一阵，靡麾下全是关中士兵，全都为其拼死力战。
为了确保邺城安全，尉迟迥的弟弟尉迟勤带领五万青州兵前来增援，率先赶来的三千骑兵先锋部队投入战斗，双方在邺城下展开了极其惨烈的厮杀，邺城城中士民争相云集出城，目睹这惊心动魄的场面。
尉迟迥的确是一员能征善战的勇将，威风丝毫不逊于年轻时，他一出马全军为之振奋，拼尽全力向韦孝宽大军冲去。韦孝宽的人马当即抵挡不住，全军在敌人的压迫下逐步后退。高颖和李询等人看到形势危急，顾不上什么道义准则，匆忙之下整顿人马，向着围观百姓展开攻击，那些兴高采烈围观大战的百姓没想到还有士兵向自己冲来，立即吓得魂飞魄散，惊叫之中四下逃窜，于是一下子就把尉迟迥的阵形冲乱。
韦孝宽的手下大将宇文忻看见形势出现转机，立即高喊"贼败矣"，而后全军为之一振，重新向尉迟迥的大军猛烈冲击，而尉迟迥的人马则明显受到士气影响，阵形被冲得七零八落，韦孝宽的大军也趁势攻进了邺城。
大将梁士彦首先从北门攻入，一路追杀至西门，然后将宇文忻的人马接进城中，尉迟迥退守城中小城楼，大将崔弘度尾追而至，尉迟迥回头张弓搭箭想要射去，一看是儿媳妇的哥哥崔弘度，想到大势已去，负隅顽抗也无济于事，不如做个顺水人情，便将弓箭扔在地上，痛骂杨坚后自刎而死。崔弘度大概也不好意思捡现成的便宜回去，于是叫过来弟弟崔弘升，将尉迟迥的首级割下，让其回去领功请赏。
尉迟迥兵败后，尉迟勤和尉迟惇、尉迟祐等叔侄三人东逃青州，结果被韦孝宽手下大将郭衍追获，而后山东地区各地叛乱相继被平定。
尉迟迥是当时三方叛乱实力最强的一支，随着尉迟迥叛乱的平定，司马消难的处境也越来越困难。八月二十七日，也就是平定尉迟迥叛乱的十天后，王谊率领四大总管进兵陨州，司马消难闻讯连夜逃难陈朝，于是荆、郢诸州叛乱也相继平定。杨素攻克荣州，宇文胃出逃，最终被追到斩首。梁睿率领二十万大军进入蜀中，连战连捷进逼成都，十月二十六日，王谦带领五万精兵背城结阵，准备决一死战，梁睿纵兵进击大败王谦，斩其首级后传首京城，至此三方叛乱全部平定。