玉渊潭距北京西山较近，由于长期“山前冲洪积物发育，构成面积广阔的冲洪积扇。

玉渊潭，辽金时称钓鱼台，元朝又名玉渊潭。

据《光绪顺天府志·地理》记载，历史上顺天府宛平县境内，共有54处名泉，其中的“钓鱼台前泉”泛指玉渊潭一带的众多泉流。这些泉流早在金代以前即形成“前有长溪，镜天一碧，一顷有余。夏则薰风南来，清凉可爱”的自然景观。

乾隆三十八年（1773年），为了保障扩建中的北京西郊园林和香山至玉泉的输水石渠免遭山洪侵袭，清政府在加紧开扩南旱河的同时，责令工部尚书福隆安派拨步兵数千人，在员外郎常庆等亲自督率下对玉渊潭进行引洪疏浚工程。为保证工期，弘历又钦派总管内务府大臣英廉亲自前往督工。五月，玉渊潭已被挖成“宽自十余丈至四五十丈不等”的人工湖泊，称为“钓鱼台河泡”（又称钓鱼台水泡）。

在疏浚钓鱼台河泡工程中，将“钓鱼台河泡”下游的泄水河同时疏浚，并在“钓鱼台河泡”湖泊东侧出口处建一座三孔石闸，以节制上游洪水，将其顺利导入泄水河。这是历史上第一次将玉渊潭开发为北京西郊蓄水调洪的湖泊。利用挖湖弃土，沿湖南北两岸围堰堆山，一方面增加了钓鱼台河泡韵蓄洪能力，保证钓鱼台行宫汛期安全；另一方面妥善地消纳了挖湖产生的大量土方。

咸丰九年（1859年），由于钓鱼台河泡长期缺乏水源，被总管内务府奉宸苑充为官地招佃租种。

直至中华民国二年（1913年）农科大学把玉渊潭作为农林试验场使用。湖中主要种植水稻、旱稻、芦苇等作物。此时，钓鱼台河泡之称逐渐被农林试验场所代替。在这片东西长约3里，南北最宽处不超过310米的狭长地带，由于上游河道淤塞，水源几乎枯竭，西半部湖内有稻田220亩，东半部湖内芦苇丛生。1950年代，疏浚工程结束后，形成了现代湖泊状态。

中华人民共和国成立后，修建永定河引水渠和京密引水渠，两水在罗道庄跌水处 汇合后，入玉渊潭，以保证京城用水需要。