仁寿四年(604),隋文帝在仁寿宫病重,这时他想到国家还没治理得很好,好在太子杨广仁孝节俭,很有志向。但杨广这时正为帝位加紧活动,写信给杨素征求处理杨坚死后工作的意见。然而杨素的回信却被误送到杨坚手中。杨坚看信后大怒。这时他的宠妃宣华夫人又披头散发冲进来,说太子杨广对她无礼,更令杨坚恼怒异常,后悔更换太子,便让人赶快召杨勇来。杨广得知此事后,派亲信把侍候杨坚的人全部赶出去。给杨坚喝下毒酒,就在这一天,杨坚被自己的亲生儿子害死,终年64岁。
隋文帝在建隋,实现全国统一,采取一系列措施巩固统治、发展经济等方面做出了杰出贡献。他北抚突厥,为民族和睦、边境安宁做出了贡献;在农业、官制、军事等方面的改革又为后世所沿用,促进了封建社会的繁荣与发展。他注重节俭,重视用人,注重选拔良吏,反对贪污,在一定程度上保证了吏治的清明,有利于他的统治,有益于百姓。但他不喜读诗书,废除学校,也是统治措施的失败之处。听信妇言、废掉太子、埋下了隋朝早亡的祸根。综合的说,隋文帝功大于过,还是一个值得肯定的封建帝王。