在我国古代，有自己独立的源头且直接流入大海的河流才能被称为"渎"。我国的四渎，指的就是南渎长江、西渎黄河、东渎淮河和北渎济水。

据说，古济水发源于济源市王屋山上的太乙池，以地下河的形态向东潜流七十余里，至济源市城区西北2公里处始涌出地面形成济水的源头。

隋文帝开皇二年(582)，朝廷为祭祀"四渎"神之一的济渎神，便在济水源头地修建了一座水神庙，也就是现在的济渎庙，至今有1400多年的历史。

济水原称北渎大济之神，唐玄宗天宝三年(公元744年)晋封为清源公。唐贞元十二年(796年)鉴于北海（今俄罗斯的贝加尔湖）远在大漠之北，艰于祭祀，便在济渎庙后增建了北海祠。宋徽宗宣和七年(公元1125年)，济渎神被封为清源忠护王，北海神被封为北广泽王。自隋朝以来，历代皇帝遣使莅临，举行盛大祭典活动，一直延续到清代。

济渎庙的平面布局呈"甲"字形，坐北朝南，前为济渎庙，后为北海祠，东有御香院，西有天庆宫，总面积八万多平方米，在历代朝廷的修缮下，逐渐形成了一座规模宏大、气度不凡的古典园林建筑群。

只是在清同治年间，济渎庙经历过捻军起义，其主体建筑渊德大殿在战火中被焚毁。

济渎庙山门为清源洞府门，建于明代中期，为三间四柱挑山造木牌楼，采用九踩重翘重昂斗栱（注：九踩斗栱系皇家建筑的典型象征） ，经历600年的风雨沧桑，依然为一座原构纯度高，造型奇特，保留古制较多的明代木构建筑。

民国初期，地方政府为加固需要，增盖了红墙和大门。