公元589年，隋灭陈之后，隋文帝杨坚采取平建康城邑宫室为耕田的政策，下令毁去建康都城、东府城、丹阳郡城，城阙、宫殿、官署、军营等均被拆除。盛极一时的建康官府建筑，几乎荡然无存。在行政设置上，废丹阳郡及丹阳、湖熟、江乘、临沂四县，将建康、秣陵、同夏三县并入江宁县。置蒋州，在石头城内设蒋州治所和"扬州总管府"。隋炀帝大业初，改蒋州为丹阳郡，统江宁、溧水、当涂三县。
隋炀帝多次南下巡游扬州，大业十二年，隋炀帝第三次驾幸江都。他畏于北方农民起义的发展，不敢北还。隋王朝所控制的地区，在北方只有东都洛阳及其他几座孤城，在东南只有江都一隅之地。杨家天下出现土崩瓦解之势。次年，太原留守李渊起兵占据了都城长安，立隋炀帝的孙子杨侑为帝，遥尊隋炀帝为太上皇。江都更是人心惶惶。
隋炀帝晚年，既没有像陈后主那样做个长城公，也没有把带在身边的毒药派上用场。大业十四年（618年）三月，炀帝见天下大乱，已心灰意冷，无心回北方，但仍想迁都丹阳（今江苏南京），保住江南的半壁江山。隋炀帝派人过江去修治金陵的丹阳宫（今南京），准备一待宫殿建好就迁过去。从驾的都是关中卫士，本来就思念家乡，又听说那边战乱频繁，不知家人存亡，心中十分焦急。现在听说隋炀帝要迁都丹阳，更加不满。郎将窦贤竟率所部私自潜逃。隋炀帝急忙派人追杀窦贤。但是士卒仍然悄悄逃走，隋炀帝深以为患。虎贲郎将司马德戡平素很为隋炀帝宠爱，这时也与虎贲郎将元礼、直阁裴虔通等密谋西归。三人又碾转招引，内史舍人元敏、虎牙郎将赵行枢、勋侍杨士览等人都与之同谋。这些人日夜聚会，公开议论叛逃，竟无所畏避。有一个宫女听到消息后对萧后说："外间人人欲反。"萧后说："你可以直接报告皇帝。"这个宫女就去报告隋炀帝。隋炀帝闻言大怒："你一个宫女，知道什么国事，到我这胡说八道！"竟下令将这个宫女处死。以后又有宫女报告萧后，萧后说："事情到了这个地步，已经无可救药了。你们也不用再说了，说了只会令皇帝烦恼。"自此以后，无人敢言。
宇文化及发动兵变，逼缢隋炀帝。这个雄心勃勃的帝王，死后连个像样的棺材也没有用上，由萧后和宫人拆床板做了一个小棺材，偷偷地葬在江都宫的流珠堂下。后陈棱集众缟素，为炀帝发丧，备仪卫，改葬于吴公台下，衰杖送丧，恸感行路。