自汴梁(今开封)至洛阳的汴洛铁路是依照芦汉铁路的支线修建的。1904年10月开工，以郑县车站为起点，分别向东西两个方向施工。1909年12月竣工，全长183公里。

民国时期

    1912年9月，北洋政府与比利时签定修建1800公里的陇海铁路借款合同，以汴洛铁路为基础向东西方向展陇海铁路筑，两段工程于1913年5月同时开工。1915年5月，开封至商丘至徐州段通车，长277公里。同年9月洛阳至观音堂段30公里竣工。西段观音堂以西的线路，到1927年11月，修至灵宝。

    1920年5月，北洋政府又与比利时和荷兰签定了借款合同，继续修建陇海铁路。东段徐州至海州的大浦198.3公里，于1920年开工，1923年竣工。

    南京政府铁道部于1928年成立后，决定续建陇海铁路。灵潼(潼关)段长72公里，1930年11月开工，1931年12月竣工。潼西(西安)段长131公里，1932年8月开工，1934年12月竣工。西宝(宝鸡)段长173公里，1935年1月开工，1936年12月竣工。灵潼段早期河南陇海铁路车站是将比利时退还庚款的剩余部分作为借款修建的。潼西、西宝两段的国外购料由法国财团承担。

    陇海铁路宝鸡至天水段，长154公里。这段铁路工程复杂艰巨，南京政府忽停忽建，朝令夕改。从1939年5月至1945年12月，用了近7年时间，才勉强竣工。通车后，塌方事故不断发生，被称为陇海铁路的"盲肠"。

新中国时期