日本政府中涉及水利的部门有建设省、农林水产省、通商产业省、厚生省、环境厅及国土厅等。这些部门都设有专门机构行使所分管的职能。

建设省河川局，负责全国一级河流的规划整治、综合利用工程的建设和管理、防洪减灾、水土保持、海岸保护等。河川局下设河川总务、水政、河川环境、计划、治水、开发、海岸、防灾8个课及砂防部（内设砂防课和倾斜地保全课）。建设省在关东、北陆、中部、近畿、四国、九州等8个地方设地方建设局。地方建设局内设河川部，负责水利业务。建设省土木研究所是日本研究土木水利的著名研究机构。

农林水产省构造改善局，负责农田水利、农业用水管理、农村综合整治工作。构造改善局下设农政部、计划部和建设部。农政部管理农政、农业经营、构造改善等业务；计划部管理地域计划、资源和事业计划等业务；建设部管理工程建设、农业用水、防灾等业务。农林水产省在地方设8个农政局，负责地方农村水利的管理。农林水产省农业土木试验场是该省主要科研机构。

通商产业省资源能源厅，负责水力发电和工业供水，包括水力发电工程和供水工程的规划、建设和管理，工业用水的重复利用和海水淡化等。

厚生省环境卫生局，负责城市生活供水。包括制定上水道供水水源开发计划，下水道建设计划，监督水道法的实施等。

环境厅水质保全局，负责全国水资源的保护工作，制定水质环境标准和污水排放标准等。

国土厅水资源局，是全国水土资源规划、计划的综合协调部门，主要职责是制定水资源综合开发利用规划，制定长期水供需计划及有关政策，对水资源工程进行评价。

日本主要水利工程建设机构有：水资源开发公团承担利根川、荒川、木曾川、淀川、吉野川、筑后川等6条重要河流的开发和管理；农用地开发公团负责新开垦地区和土地改良地区水利工程建设；日本工营公司承包流域规划和水利水电工程建设；电源开发公司从事包括水电在内的电力建设工程。

2001年1月日本中央政府启动新体制，建设省、国土厅等合并为国土交通省；通商产业省改名为经济产业省；厚生省、劳动省合并为厚生劳动省；环境厅升格为环境省，农林水产省未变，省内部负责水利的机构也随之有所变化。