胶济铁路，又称胶济线，东起青岛，西止济南，始建于1899年，1904年建成通车，由德国人修建。这也是济南修建的第一条铁路。

济南老火车站由德国建筑大师赫尔曼·菲舍尔（Hermann Fischer）设计，始建于1908年，于1912年建成并投入使用。

火车站最引人注目的是候车大厅与辅助用房之间高高耸起的一座高达32米的圆柱形钟楼，是济南老火车站的构图中心，堪称为全部设计中的点睛之笔。有人曾经比喻；如果说济南老火车站是世间汪洋人海中的一座小岛，那么这坚实而高耸的钟楼就宛若指引一叶叶小舟的灯塔了。

这座造型别致的火车站刚一建成，便受到了国内外建筑家和百姓们的广泛赞誉，成为远东地区最为著名的火车站。二战后，德国人编制的旅行手册上就建议，“到远东最值得看的第一站”就是济南火车站。它还成为当时北京清华大学、上海同济大学建筑学教科书上的范例。

电影《大浪淘沙》也拍摄于此。1958年，为增加容量，铁路部门对老火车站进行了部分改造，在西面建起了两层候车室和三座站台天桥。1972年为欢迎柬埔寨西哈努克亲王来济南，车站新建了从站台直通站前广场的出口，当时称迎宾门。

一战结束后，胶济线控制权从德国转到了日本手里，日本人将其与津浦铁路合并，改名为山东铁道。

1945年日本投降，胶济铁路才正式回归到祖国的怀抱。

1898年，德国强迫清政府签订了《胶澳租借条约》。1904年，德国人将胶济铁路自东向西铺到济南，不久，由英、德两国出借款项建造的津浦铁路也修到济南。当时因两条铁路的统辖权不同，津浦铁路济南站独立设置在今济南站的位置。相距数百米，有两座颇具规模、均为欧式风格的车站，这在中国其他城市中极为罕见。

1914年第一次世界大战爆发后，日本趁德国无暇顾及远东，便占领了胶济铁路。1919年，巴黎和会擅自决定由日本继承德国在山东的势力范围。1923年中国政府收回了胶济铁路主权。这里遂成为两大铁路干线统一使用的大型车站。

20世纪30年代以前，这两座火车站同时使用，坐哪条线的火车就在哪座车站购票候车。1937年底，侵华日军占领济南，为了配合自己的分区管理，将原来的两座车站进行改造和扩建，于1938年将胶济铁路济南站并入津浦铁路济南站，所以，原来的津浦铁路济南站，自此就成为人们心目中的济南老火车站了。

1992年3月，以市长翟永浡为首的市政府最终敲定拆除老火车站，并于1992年7月1日8时5分正式开始拆除，时任副市长谢玉堂评价其为“看到它就想起中国人民受欺压的历史,那高耸的绿顶子(穹顶)就像希特勒军队的钢盔”。

当年拆旧改新火车站的建议遭到市民和学者的强烈反对，当时在全国的学术界可谓骂声一片，痛斥当局者"没有文化"。

1992年7月1日8时5分，济南老火车站的钟声永远停止了，中国最有特色的火车站就这样永远消失了。

拆除后车站在原址进行了重新的改扩建，新的火车站于1995年7月1日正式启用。老百姓说；取而代之的是一个毫无特色的新火车站。

我们现在看到的是1995年建成，经过多次改扩建后的济南火车站。

被拆除的济南老火车站已经成为济南人民心中无法忘却的纪念和伤痛。

几年前，有官方修复老火车站的小道消息不胫而走，火车站话题再次引起热议。

济南考古研究所所长李铭一针见血的说过；“即使是有图纸，老火车站也不可能复建成过去的样子，因为建筑者对待建筑本身的态度已经改变了。”“古代建筑者用最简单的工艺做出来一个复杂的建筑，而现代人是用复杂的工艺做出来一个简单的建筑，‘魂’是不一样的。