地上前半部有汉白玉石门阙、馆表,表额“洛阳古墓博物馆”题名是著名考古学家夏鼐先生书丹;进而为序幕大殿,殿前左右两侧设复制汉代天绿、避邪兽一对,殿后为上下墓区厅;两侧为配殿(售票室、警卫室、图书资料室、摄影室、办公室、接待室、陈列室、纪念品销售室),其间有游廊连属。后半部主要有四角楼和望景亭,四角楼是地下四个厅的地面延伸,以便地下通风和自然采光;中间的望景亭,备为休息用,登此可俯瞰洛阳全城,南眺伊阙,少宝山峰,北顾滔滔黄河与太行王屋。

    地下部分,设有两汉厅、魏晋厅、唐宋厅和休息厅,四厅之间有通道相连,通道两侧是复原的历代古墓葬。整个博物馆是一座气势宏大而又清静幽雅的仿古建筑群。加之配以花草树木,假山怪石,喷泉游鱼,堪称一处别有洞天的山顶公园。