運河是人工開鑿的通航水道。唐以前稱為溝、渠、漕渠、漕河、運渠，宋代始有運河之稱，元明以來漸成通城。我國歷史上為了彌補自然地理條件的不足，發展水上運輸，早在春秋時期甚至更早的時候已經開挖運河。而隋朝是我國歷史上運河的大發展時期。隋朝建立以前，我國各地區已經先后開鑿了白溝、漕渠、陽渠、鴻溝、邗溝、江南運河、浙東運河等多條運河。這些運河因為自然環境的變遷，或多年失修，已經淤塞斷航；有的雖然代有修浚，仍可通航，但又各自獨立不成系統，所以很難擔當全國性大范圍的水上運輸。
隋朝的建立，結束了長期的分裂局面。公元605年，隋朝第二位皇帝隋煬帝楊廣為了適應統一國家政治、經濟和軍事上的需要， 4月14日(隋大業元年三月二十一日)，隋煬帝下令始鑿運河。“命尚書右丞皇甫議發河南、淮北諸郡民，前后百余萬，開通濟渠”。通濟渠起于洛陽城，西引榖(即澗水)、洛水入黃河;又從極清(今河南滎陽縣把水鎮東北周黃河水向東到洋州(今河南開封)，再順汴水經商丘，折向東南，接通蘄水，經皖北至淮陰入淮水。第一段工程溝通了洛水、黃河和淮河。
同年，隋揚帝又征發淮南民十幾萬開邢溝。
608年2月，再次下“詔發河北諸軍百余萬穿永濟渠，引沁水南達于河，北通深郡”。
611年元月，隋煬帝“敕穿江南河油京日至余杭，800余里”。這段工程的告竣，全長4000多里的大運河貫通，成為中國南北交通的大動脈。
至此，隋朝溝通的南北大運河是世界上修建時間最早，跨度最長的運河。