隋朝的大运河，全长两千五百多公里，共分五段，即广通渠、通济渠、永济渠、山阳渎和江南运河，这五段运河联通了海河、黄河、淮河、长江、钱塘江等五大水系，将隋朝南北有机联系了起来。
其中，广通渠、山阳渎是隋文帝时期开凿的，通济渠、永济渠、江南运河是杨广在位时开凿的。
开凿广通渠：
公元584年，隋朝都城长安内粮仓空虚，百姓无粮可食，整个关中遭遇到严重的粮食危机。
为了缓解危机，隋文帝杨坚立刻组织人力将关东各州的粮食转运至关中。
可是，由于陆路运输粮食速度缓慢耗费巨大，水路运输虽然省时省力，可用船从黄河经渭水来运输粮食时，渭水的水少沙多又导致渭水河道深少浅多起伏不定（渭水多沙，流有深浅，漕者苦之。节选自《隋书·食货志》卷二十四），这样一来，运输粮食的槽船在深少浅多的渭水逆流向西时便经常搁浅误事，有时得耗时好几个节气才能运粮至京城（一年分二十四节气）。
于是，为了将山东的粮食财赋安全迅速地转运至关中，尽快缓解关中百姓的缺粮危机，隋文帝特地下诏：令太子左庶子宇文恺和开漕渠大监郭衍共同负责，引渭水从都城大兴城到潼关附近的黄河开凿一条人工渠。
宇文恺、郭衍领命后，便于当年六月率领水工和数万百姓从大兴城开始向东开凿新河渠，经新丰（今陕西临潼）、渭南、郑县（今陕西华县）、华阴等地，东至潼关，而后继续开渠，终至附近的黄河。
该渠耗时三个多月而成，全长三百余里，因经过置于渭水与黄河交汇处的广通仓，故称广通渠。
广通渠开通后，关东地区的粮食经该渠得以迅速快捷地运至长安，关中人民深感其便利，故在当时称其为富民渠。
开凿山阳渎：
公元587年四月，考虑到广通渠对粮食运输的巨大保障贡献，同理，为了筹备好灭陈战役的后勤供应，确保隋军攻陈时能便利迅速地向前线运输粮食、武器装备等军资，隋文帝下诏：开凿一条联通淮河与长江的运河。
于是，隋朝运河中的山阳渎开始开凿：
由于隋文帝在战前不敢过分伤民（否则作战时后方极易生乱），所以该运河只是动员当地数万民工，将春秋时期吴王夫差开凿过的邗沟进行再次疏浚和拓宽，整个工程从淮河流域的山阳（今江苏淮安）开始疏浚，经安宜（今江苏宝应南）、高邮（今江苏高邮），向南拓宽至江都（今江苏扬州），再到长江，最终将淮河和长江再次联通了起来。
结果，这条运河的重新疏浚和拓宽，对后来灭陈战役的成功，也确实起到了相当程度的后勤保障作用。
公元604年，隋文帝杨坚驾崩，太子杨广继承皇位，是为隋炀帝。
次年改元大业后，三月二十一日，功业心被压抑已久的皇帝杨广正式下诏：大规模开凿运河！
就这样，在隋朝百姓的辛勤开凿下，弊在当代，利在千秋的大运河于短短几年间就迅速竣工了。
具体说来，杨广下令开凿的隋朝运河共分三期才竣工。
第一期（公元605年）：为快速高效地将江淮地区的赋税运往洛阳和长安，同时也为了确保自己能够轻松便捷地顺河乘船到江南游山玩水，杨广下令开凿通济渠、整修山阳渎。
至于具体安排，杨广令尚书右丞皇甫议主持此项工程。皇甫议征发河南、淮北各州的一百多万民工，并指挥民工们先从洛阳西苑开凿渠道，引洛水、谷水流入黄河；再从板渚开凿渠道引黄河水经荥泽流入汴河；然后，百姓从大梁东部开渠引汴河水流入泗水，再凿渠引泗水注入淮水。
同时，杨广还征发十几万的淮南民工疏浚古邗沟，即将联通淮河与长江的人工渠山阳渎，进行重新整修和拓宽，使其与通济渠的高规格相匹配。
整个工程，从三月开始，到当年秋天竣工，开凿成的通济渠和重新整修的山阳渎，渠水宽四十步，水中可行龙舟，运河两岸还筑有御道，岸边种植着柳树，自洛阳至江都，将近一千公里的沿途，还建筑了四十余行宫供杨广下龙舟休息。
至此，沟通黄河、淮河、长江三大水系的通济渠和山阳渎被开凿、整修完成。
第二期（公元608年）：为便利黄河北部的军事运输，巩固东北部边防，并为北征高丽作准备，杨广下令开凿永济渠。
这项工程，杨广命殿内丞阎毗为工程总监，征发了河北各郡的一百多万民工从事开凿工作。
永济渠从沁水与黄河交汇处向北开凿河渠，引沁水北上，途中与清水、淇水相接，在获得补充水源后，向北经河南新乡、汲县（今河南卫辉）、黎阳（今河南浚县）、内黄（今河南内黄西南）、魏县（今河北大名西）、馆陶、临清（今河北临西）、清河、长河西（今山东德州）、东光、长芦（今河北沧州）等地直达涿郡（今北京）。
永济渠全长两千余里，河道较宽，可通龙舟，可运输作战物资。
第三期（公元610年）：开凿江南运河，隋炀帝欲南巡会稽（今浙江绍兴），历来讲究排场意欲收买江南人心的他，遂下令对六朝时的江南运河进行疏浚、拓宽。
江南运河从北长江附近的京口（今江苏镇江）开挖，向南经曲阿（今江苏丹阳）、晋陵（今江苏常州）、无锡（今江苏无锡）、吴县（今江苏苏州），一直挖到余杭（今浙江杭州）的钱塘江结束。
该运河全长八百余里，水面宽十余丈，可通龙舟，并在沿岸设置了驿宫，作为隋炀帝南巡时上岸休息的场所。
总体来说，隋朝大运河的开凿，虽然给当时的天下百姓带来了巨大的痛苦，甚至以饿殍遍野、庄稼荒芜、国破家亡为代价，但是有舍才有得。开凿成的各处运河，既能如统治者意志那样有利于全国粮食的运有余补不足，有利于税赋的高效转运，继而有助于统治者解民于倒悬，又能保证军事行动的后勤供应，继而确保隋军作战的大多数胜利。此外，隋朝大运河在客观上还促进了南北经济文化的交流和共同发展，客观上促进了运河两岸百姓和城市（如洛阳、开封、杭州等）的繁荣发展。
开凿运河，有利有弊，但弊在当代，利在千秋，这就是毁誉参半的隋朝大运河。
综上所述，隋帝杨坚杨广父子即使劳民伤财，仍要开凿大运河，主要是因为：
其一，开凿广通渠，是为了通过漕船及人工渠的水上运输，将潼关以东地区的粮食便利快速地转运至关中地区，以缓解关中的缺粮危机，长远来看，也为了便利关中与关东地区的经济、文化交流；
其二，疏浚、拓宽山阳渎，是为了确保隋军攻陈时能便利迅速地向前线运输粮食、武器装备等军资，为灭陈战役做好后勤供应；
其三，开凿通济渠，是为了快速高效地将江淮地区的赋税运往洛阳和长安，同时也为了确保杨广能够轻松便捷地顺河乘船到江南游山玩水；
其四，开凿永济渠，是为便利黄河北部军事物资的运输，方便杨广视察并巩固东北部边防，并为北征高丽作准备；
其五，疏浚、拓宽江南运河，是讲究排场和享受的杨广为了南巡会稽镇服南陈土著势力而采取的恩威并施之举。
