此时，南方的陈王朝在陈叔宝的统治下已腐朽到极点，国家资产枯竭，劳役无穷尽，百姓困苦万分，陈已失去统治的基础。隋文帝进行了充分的准备。在长江中上游大量造船只，在下游准备渡江。隋文帝又下诏书历数陈叔宝的罪状，并印制了几十万份在江南和陈军中广为散发，一方面鼓舞了自己军队的士气，另一方面也起了瓦解敌军的作用，使隋军在进攻之初，便在政治上、军事上处于有利地位。
开皇八年（588）秋，隋文帝命晋王杨广为主帅，发兵51万，东起渤海，西至今四川，在整个长江沿线水陆并进，向陈发动了大规模进攻。这时陈王朝共有兵力不过10万，而君臣们都依仗长江天险和“金陵王气”，仍生活在花天酒地之中，面对隋的全面进攻，陈首尾不能相顾，根本无力抵抗，仅三个月的时间，隋便消灭了陈，实现了统一中国的大业。战争的迅速结束，大大减少了对社会的破坏程度和对人民造成的痛苦，受到各族人民的热烈欢迎。
当南下军队回到长安后，隋文帝下令奖赏有功将士，同时免去原陈朝管辖地区的10年赋役，发展农业生产。他还认识到，战争已经结束，要尽可能消灭一切可能危及他的统治的隐患，于是下令在陈边疆和京师守卫军队以外，其余的兵器等军事装备应立即停止制造，民间兵器应全部销毁；军人子弟应尽力改学文，功臣后代应熟读一经，把尚武之风变为习文之气。开皇十五年（598），杨坚又下令收缴天下所有兵器，若发现私自打造者严惩。这些措施说明杨坚希望老百姓各安其业，老老实实做他的顺民，但也对生产的发展和社会稳定起了一定的积极作用。
