根據1995年6月第71次總理辦公會議精神，水利部組織開展了南水北調工程論證工作。1995～1998年期間，對東線工程進行論證討論，北京市不再列入東線供水範圍，工程方案隻對各段規模進行局部調整。成果為淮委會同海委會（“海河水利委員會”的簡稱）於1996年1月提出的《南水北調工程東線論證報告》，報告預測了不同水平年受水區缺水程度和調水需要，對工程投資、供水成本和工程管理等問題進行了分析研究。建議在江水北調工程基礎上分別按抽引江水500立方米/秒、700立方米/秒、1000立方米/秒規模，分三步實施東線工程。此外，還研究了通過泰州引江河引水，經連雲港沿海濱送水到青島及膠東其他城市的濱海線規劃。
1999～2001年期間，水利部組織專家學者對東線工程進行了總體規劃論證。為貫徹落實黨的十五屆五中全會確定的“采取多種方式緩解北方地區缺水矛盾，加緊南水北調工程的前期工作，盡早開工建設”的重大決策和朱鎔基總理的“先節水後調水，先治汙後通水，先環保後用水”的指示精神，淮委會負責會同海委會，於2001年編製完成《南水北調東線工程規劃（2001年修訂）》。本次規劃是在以往前期工作成果基礎上的進一步修訂。與20世紀70年代、90年代初的規劃相比，社會、經濟和環境等方麵都發生了很大變化。因此，本次修訂規劃突出水資源優化配置，按照“三先三後”的原則，論證東線工程的水資源開發利用和保護，修訂供水範圍、供水目標和工程規模；研究東線工程建設體製和運營機製，建立合理的水價體係；根據北方城市的需水要求，結合東線治汙規劃的實施，製定分期實施方案。
2002年12月，國務院批準了《南水北調工程總體規劃》。2004年6月編製完成《南水北調東線第一期工程項目建議書》，2005年3月由淮委會牽頭組織編製完成了《南水北調東線第一期工程可行性研究報告》。至此，南水北調東線工程規劃告一段落。