中国的地理形势总体上是西高东低。就山脉而言，也是由西向东海拔逐渐降低，河流的走向也呈由西向东的整体趋势。这样的地理条件虽有不少优越之处，却也导致 中国境内除了云贵境内的横断山脉中有几条北南流向的河流之外，其余的河几乎都是由西向东，注入大海。这样的地理形势与山川走向，对于以水运为主的古代交通 自然很不便利。针对这种情况，在隋代以前，已经有人注意到这个问题，但是限于工程浩大，在生产力不够发达和物质积累不够丰富的条件下，这也只能是某些人的 理想而已。
其实，隋文帝在位时，就已经有开运河以通漕运的考虑。开皇四年（584年），隋文帝曾令有 巧思 之誉的宇文恺，率领水利 人员开凿河渠。其具体做法是把渭水从大兴城引到潼关，全长150余公里，这就是历史上所说的 广通渠 ，又叫 富民渠 。这是因为从开皇三年（583年） 开始，隋文帝已经感觉到京师仓廪的储备粮不足，为了防备水、旱等自然灾害引起的歉收，所以下诏： 于蒲、陕、虢、熊、伊、洛、郑、怀、邵、卫、汴、许、汝 等水次十三州，置募运米丁。 后来因为运输不便，施行起来困难不小，所以文帝才在开皇四年（584年）的诏书中说： 京邑所居，五方辐凑，重关四塞，水陆 艰难 故东发潼关，西引渭水，因藉人力，开通漕渠，量事程功，易可成就 一得开凿，万代无毁。
宇文恺开通 广通渠 后， 漕运四百余里，关内赖之。名之曰 富民渠 。可见 广通渠 开通之后，在一定程度上解决了漕运的困难和关中遭受水、旱等自然灾害后的缺粮问题。
隋炀帝即位之后，并不是心血来潮，也不是纯粹为了巡游江都的考虑要去开凿运河，其中也包括了经济上和政治上的原因。这实际上是巩固隋朝政权的重大举措。 因为自从晋怀帝永嘉南渡之后，中原士族大批南移，又经历了南朝宋、齐、梁、陈更替，华夏衣冠文物也逐渐以江南为聚集中心。尽管隋文帝统一了中国，结束了南 北对峙的分裂局面，然而，江南地区的侨郡侨县及中原士族大姓的政治影响还长期存在。为了强化对江南政治集团的控制，加强江南与中原地区的联系，开凿一条横 贯南北的大运河显然是十分必要的。
至于开凿大运河的经济意义就更为显著了。江南原本自然条件较好，河渠密布，灌溉和水上交通都极为便 利，只是因为历史上开发得较晚，一直没有展现出蓬勃的生机。但是，自从 五胡乱华 以来，中原士族南奔，不仅为江南地区带来了中原文化的积极影响，也将华 夏文明的先进思想与生产手段带到了江南。经过南朝六代（三国东吴、东晋、宋、齐、梁、陈）的积累，到隋代，江南的经济已经相当繁荣了。根据《宋书》介绍， 早在南朝刘宋时期，江南的富庶已经超过屡遭战乱兵燹的中原地区了。当时江南已是 鱼盐杞梓之利，充仞八方；丝棉布帛之饶，复衣天下 的繁盛景象了。当时隋 朝都城长安已经显得缺乏生机，物产也满足不了隋王朝的需要，修凿运河的经济利益显得更为重要了。
隋炀帝从他即位的大业元年（605年）开始，就着手大运河的修建。修建大运河分三段运作：一是开凿 通济渠 ，二是开凿 永济渠 ，三是修建 江南河 。
大业元年（605年），隋炀帝任命尚书右丞皇甫议 发河南、淮北诸郡民，前后百余万，开通济渠。 具体的措施是从河南洛阳西苑开始，引谷水、洛水进入黄 河，然后又从板渚引黄河水，疏通莨荡渠故道，进入淮河，到达山阳（今江苏省淮安县），这就是历史上有名的 通济渠 工程。从山阳开始，再疏导当年吴王夫差 所开凿的邗沟，引淮河水经扬子（今江苏省仪征县），进入长江。这段河有40步阔，可以通行庞大的龙舟。而在河渠的两岸皆修筑大道，遍植柳树，不仅可以巩固 河堤，也能起到绿化环境、遮阳垂阴的效果。
至于修凿 永济渠 ，则是从大业四年（608年）才开始的。这段运河是引沁水南入黄河，北 至涿郡，全长1000多公里，是大运河中最长的一段。这样浩大的工程，加之大兴土木穷治宫室，隋炀帝不免感到人丁不济，史称 丁男不供（不足），始役妇 人 。就是说，隋炀帝终年不断地兴建工程，把全国的劳动力都用上了仍然感到不敷使用，开始对妇女派力役了。
永济渠 的开凿是有历史背景的，当时正是隋炀帝大攘四夷的狂妄计划实施之际，他将全国的主要军事力量集中于涿郡，北出辽东，然后去打高句丽。开通 永济渠 的目的是为征高句丽运送粮草服务的，但 永济渠 的阔度也同时设计的可以通行隋炀帝的龙舟。
江南河 的修建更晚一些，是大业六年（610年）开始的。 江南河 从京口（今江苏省镇江市）引长江水直达余杭，然后流入钱塘江。《大业杂记》记载， 江南河 全长400余公里，水面阔10余丈，准备通行龙舟。
隋炀帝经过多年建成的大运河，是中国历史上浩大而又非常著名的工程，它北起涿郡，南至余杭，贯通了我国东西走向的主要水系，这对于强化隋朝的政治统治、联系南北经济和文化交流等方面都发挥了极其巨大的作用。
杜佑在《通典》卷一七七《州郡典》《河南府》中指出：
通济渠，西通河洛，南达江淮，炀帝巡幸，每泛舟而往江都焉。其交、广、荆、益、扬、越等州，运漕商旅，往来不绝。
这应当说是比较客观而公允的。只把隋炀帝修大运河的目的狭隘地理解为隋炀帝纯粹为了个人巡游享乐，这种观点显然是不全面的。
早在隋炀帝即位之前，就有江南等地的士族力量起兵反隋，广大民众的反隋烽火也没有真正停歇过。开皇十七年（597年），桂州（今广西壮族自治区桂林市） 人李光仕起义反隋，后被镇压下去；开皇二十年（600年），李英林于熙州（今安徽安庆市）起兵反隋；仁寿元年（601年），又有潮州（在今广东）等五州起 兵抗隋 这些反抗力量，早就使隋朝感到 关河悬远，兵不赴急 的困窘。大运河开通之后，不仅促进了南北经济交流，而且更便于隋代统治阶级实行政治控制与 军事行动，这是隋炀帝修运河的真正用意所在。由于有些史评家和文学家对隋炀帝总体上是持否定和贬抑态度的，因而无视其统治有可以肯定之处，这显然不是历史 唯物主义的态度。我们在唐人的诗文中也还听到了不同的声音。皮日休在《皮子文薮》卷四《汴河铭》中写到：