这是修建在黄河上的第一座铁路桥，毛主席曾经在这座桥上提出：一定要修我们自己的桥；周总理曾经在特大洪峰到来时，加入了万人拉纤矫正桥墩的行列。这座中国黄河第一座铁路大桥，兴建于公元１９０３年９月（清光绪二十九年），１９０６年４月通车，桥长３１５０米，１０２孔，是中国第一座横跨黄河南北的钢体结构铁路大桥。

１８９６年，清政府为了建卢汉铁路，在郑州北部的黄河上要架一座桥，当时一方面我们国家没有建桥的能力，另一方面修建铁路和大桥的经费都是向比利时借的，所以此桥的设计建造工程只能委托了比利时公司。因为不是由中国人自行设计建造，所有我觉的这座桥除了在建造的年份上早了一些，其在历史上的地位根本不能与后来由著名桥梁工程师茅以升设计、并主持施工的钱江大桥相比，那座桥才是我国桥梁史上的巨大成就，才是中国铁路桥梁史上的一个辉煌的里程碑。

黄河铁路大桥的通车，连接了黄河二岸，为一个那时还叫郑县的小县城带来了机遇，那个小县城经过慢慢发展成为了今天的郑州。

黄河铁路大桥担负着京汉铁路南北大动脉的运输任务，历经军阀战争、日军入侵和洪水破坏，到１９４８年郑州解放时，整座大桥已是千疮百孔，当时只能靠小型机车牵引过桥，每列车过桥居然需要３个小时。

1９８６年，郑州黄河公路大桥建成，第二年黄河铁路大桥就被拆除，只是南端５孔１６０米桥墩作为历史文物保留下来。

饱经沧桑的黄河铁路大桥从建成通车到作为历史文物保留一共经历了８４个年头。