寺西北现存一对单层方形石塔，由塔基、塔身、塔顶组成，型制较小，仅有2.5米高，雕饰朴素。二塔相距4米，乃道凭法师的烧身塔，上刻“宝山寺大论师道凭法师烧身塔”塔铭和“大齐河清二年(公元563年)三月十七日”的题记。这是中国最早的石塔。

       由寺院向东西方向延伸的宝山沟，即万佛沟，现存石窟2座，塔(殿宇)龛245个，佛、僧雕像数百尊，高僧铭记百余篇。
       位于寺东的大留圣窟，由道凭法师凿造。窟内镌汉白玉石佛3尊，躯体雄浑高大，雕琢光洁柔美，可惜头被窃去。
       位于寺西的大住圣窟，隋开皇九年(公元589年)开凿。窟门雕迦毗罗和那罗延神王，身躯魁伟，顶盔贯甲，手持剑叉法器，脚踏牛羊，威然挺立。窟外的墙壁上遍凿佛龛及雕佛刻经。窟内雕镌释迦、弥勒等佛像近百尊。窟顶呈宝相莲花藻井，周围环绕凌空飞舞的飞天，为沉寂的洞窟增添了无限情趣。以两窟为中心，从东到西千米有余，浅龛造像密布山崖，刻于南北朝至北宋时期，历时600余年。灵泉寺万佛沟按年代编排，可看出塔式的沿革，可谓“宝山塔林”