秦朝時期，秦始皇為了出兵嶺南，“與越人戰(zhàn)”，所以要運輸糧草，便開通靈渠。開通后，秦國運用這條運河，很快統(tǒng)一嶺南，并且置三郡于此。這條運河自從開鑿后，航運一直非常繁忙，它成為湘桂之間重要的水道。直到近代鐵路公路出現(xiàn)以后，靈渠的航運效益才逐漸的減少。

隋朝時，中國再一次統(tǒng)一，經(jīng)過隋文帝的休養(yǎng)生息，國民經(jīng)濟逐漸恢復(fù)，手中有錢的隋煬帝在大業(yè)元年三月于洛陽征調(diào)民夫兩百萬，河南、淮北、淮南等郡縣征調(diào)一百多萬民夫開始修建通濟渠。

八月隋煬帝還坐著龐大的船隊，從東都洛陽出發(fā)，到揚州游玩視察。通濟渠開通后，地位逐漸重要，到了唐宋通濟渠稱之為汴河，安史之亂，通濟渠斷航八年，唐朝廣德二年，劉晏修復(fù)汴河，他還總結(jié)漕運經(jīng)驗，在揚州、河陰、長安設(shè)置轉(zhuǎn)運倉，實行漕糧運輸?shù)摹稗D(zhuǎn)般制”，即“江船不入汴，汴船不入河，河船不入渭。

江南之運積揚州，汴河之運積河陰，河船之運積渭口，渭船之運入太倉。”這種連續(xù)轉(zhuǎn)運的方式，效率提高很多不說，更不會出現(xiàn)折損?！皻q轉(zhuǎn)粟一十萬石，無升斗溺者”。

北宋時期建都開封，當(dāng)時，除了居民還駐扎著幾十萬的禁軍。如此數(shù)量龐大的人口，本地糧食根本不夠支持，所以，當(dāng)時全部仰仗這條運河運輸。宋朝人說起這條運河的意義時，曾有：“汴渠橫亙中國，首錄大河，漕渠引江湖，利盡南海，半天下之財富，并三澤之百貨，悉由此路而進(jìn)。”

淳化二年，汴渠決口，到處泥濘不堪，宋太宗急忙驅(qū)車進(jìn)入泥沼中視察決口。可見汴渠對于宋朝何等重要。當(dāng)時汴渠的運量，在仁宗時達(dá)到每年八百萬石，每天自淮南入汴河的船只多達(dá)六千艘。這樣的繁榮景象，一直延續(xù)到北宋末期，金兵南侵之時。