治理黄河的故事，从神话就开始了，注明的大禹治水说的就是治理黄河的故事。涉及治理黄河的人物如：夏禹、郑国、贾让、张戎、王景、司马孚、姜师度、刘晏、
欧阳修、司马光、
王安石、宋用臣、苏辙、都实、周用、万恭、潘季驯、杨一魁、朱之锡、靳辅、陈潢、高斌、郭大昌、栗毓美、
林则徐、吴大澄、张曜
治理黄河，兴修水利，历史悠久。中国最早的灌溉工程，首推黄河流域的滮池（在今陕西省咸阳西南），
《诗经》中有“滮池北流，浸彼稻田”的记载。
到了战国初期，黄河流域开始出现大型引水灌溉工程。公元前422年，西门豹为邺令，在当时黄河的支流漳河上修筑了引漳十二渠，灌溉农田。公元前246年，秦在陕西省兴建了
郑国渠，引泾河水灌溉4万多顷（合今280万亩）“泽卤之地”，“于是关中为沃野，无凶年，秦以富强，卒并诸侯”。为秦统一中国发挥了重要作用。
汉朝对农田水利更为重视，修建六辅渠和白渠，扩大了郑国渠的灌溉面积，同时在渭河上修建了成国渠、灵轵渠等，关中地区成为全国开发最早的经济区。
为了巩固边陲，从秦、汉开始实行屯垦戍边政策，在湟水流域及沿黄河的宁蒙河套平原等地，开渠灌田，使大片荒漠变为绿洲，赢得了“塞上江南”的赞誉。
为了保证长安、洛阳、开封等京都的供应，黄河中下游的水运开发历史也很悠久。
大禹治水的功绩，也包括治理黄河，大河上下，几乎到处都有大禹的“神工”。春秋战国以后，治河的文献记载逐渐增多，留存下来大量珍贵的史料。
早在春秋战国时期，黄河下游已普遍修筑堤防。公元前651年，
春秋五霸之一的
齐桓公“会诸侯于葵丘”，提出“无曲防”的禁令，解决诸侯国之间修筑堤防的纠纷。在此后漫长的历史时期，伴随着黄河频繁的决溢改道，防御黄河水患成为历代王朝的大事，投入大量人力、财力，不断堵口、修防。西汉时期，已专设有“河堤使者”、“河堤谒者”等官职，沿河郡县长官都有防守河堤职责，专职防守河堤人员，约数千人，“濒河十郡，治堤岁费且万万”，河防工程已达到相当的规模。据《汉书·沟洫志》记载，淇水口（今滑县西南）上下，黄河已成“地上河”，堤身“高四五丈”（约合9～），堤防也很高。
《史记·河渠书》中记载，公元前109年，
汉武帝令“汲仁、郭昌发卒数万人塞
瓠子决”，并亲率臣僚到现场参加堵口，说明黄河堵口已经是相当浩大的工程。史书记载最早的一次大规模治
河工程是公元69年“王景治河”，“永平十二年，议修汴渠”，“遂发卒数十万，遣景与王吴修渠筑堤，自荥阳东至千乘海口千里”。“永平十三年夏四月，汴渠成……诏曰：‘……今既筑堤、理渠、绝水、立门，河、汴分流，复其旧迹’”。“景虽节省役费，然犹以百亿计”。扼制了黄河南侵，恢复了汴渠的漕运，取得了良好的效果。
北宋建都开封，当时黄河水患严重，宋王朝对治河很重视，设置了权限较大的都水监，专管治河，沿河地方官员都重视河事，并在各州设河堤判官专管河事，朝廷重臣，多参与治河方略的争议。这个时期治河问题引起很多人的探讨，加深了对黄河河情、水情的认识，河工技术有很大进步，特别是王安石主持开展机械浚河、引黄、引汴发展淤灌等，在治黄技术上有不少创新。
明代以后，随着社会经济发展和黄河决溢灾害加重，朝廷更为重视治河，治河机构逐渐完备。明代治河，以工部为主管，总理河道直接负责，以后总理河道又加上提督军务职衔，可以直接指挥军队，沿河各省巡抚以下地方官吏也都负有治河职责，逐步加强了下游河务的统一管理。清代河道总督权限更大，直接受命于朝廷。明末清初，治河事业有很大发展，堤防修守及管理维护技术都有长足进步，涌现了以潘季驯、靳辅为代表的一批卓有成效的治河专家。清朝末年及民国期间，战乱不断，国政衰败，治河也陷于停滞状态。近代以李仪祉、张含英为代表的水利专家，大力倡导引进西方先进技术，研究全面治理黄河的方略，但受社会经协件制约，始终难有建树。
纵观治黄历史，在中华人民共和国建立以前，所谓治河实际上只局限于黄河下游，而且主要是被动地防御洪灾。但是，悠久的治河历史，留下了浩繁的文献典籍，为世界上其他河流所罕见，是一份珍贵的遗产，值得我们进一步研究借鉴。