初名“玉皇宫”，曾名“梵王宫”、“宝山净寺”，位于宝山区罗店镇罗溪路518号。

宝山寺始建于明正德六年（1511），原名“玉皇宫”，本是一所道观，系当地人唐月轩舍宅而改建，有真武阁等亭阁殿堂。清乾隆二十七年（1762）唐氏后人重修真武阁。清乾隆五十年（1785），诗人范连游罗店时，有登真武阁诗：“不到谈元地，今经二十秋；沧生闲半日，高阁得重游；春水一溪游，晴烟小市浮；老僧同话旧，莲社几人留。”罗店地区古来就是市集繁荣之地，一直有“金罗店”之称，指此地居住人口众多，热闹非凡，这也为宗教场所的发展奠定了物质条件。清道光初年（1821）再修殿堂。清咸丰十一年（1861）毁于战争，仅存真武阁。至光绪初年，邻县太仓南广寺僧人今涌，见道观房屋颓败，于清光绪五年（1879）至二十五年（1899）间偕其徒历时二十年重建山门、朝房、大殿、祖堂、塔院。清光绪十二年（1886）改建真武阁为大雄宝殿，新建的玉皇宫供释迦牟尼像，凿阿弥陀佛石像，从此开始变为佛家道场，但在名号上仍延用“玉皇宫”本名。此后，先后有僧起雍、谛丰、慧宇等住持玉皇宫。“文革”期间被工厂占用作为宿舍。1988年4月落实宗教政策，玉皇宫恢复为佛教活动场所，并作为静安寺的下院予以大修。

1989年1月15日（农历十二月初八）释迦牟尼成道日，时任上海市佛教协会会长真禅和明旸法师为佛像殿堂开光，正式改称“梵王宫”并对外开放。当时的梵王宫东院是上海佛教安养院， 1989年5月，时任全国政协副主席、中国佛教协会会长赵朴初居士视察梵王宫时，故而为寺院题词：“老有所终，大同理想；报众生恩，扶老为上；如奉父母，如敬师长；美哉梵宫，不殊安养。”1990年起从达任住持，1992年7月公布为宝山区文物保护单位，1993年4月15日更名为“宝山寺”。

2001年宝山净寺住持从达法师圆寂。2002年9月，原圆明讲堂监院世良法师开始接掌寺院，同年10月，经宝山区宗教办批准，再次更名为“宝山寺”，并于2003年9月17日举行了升座仪式，当时有僧人三十余人。2003年，世良法师在宝山区政协五届一次会议上递交了《配合罗店镇开发建设，高品位、人文化地改建宝山寺》提案，并得到重视与支持，2005年5月，在原宝山净寺东北方向辟出近三十亩地作为新址，正式启动新宝山寺的移地重建工程。

     经过五年多的建设，宝山寺移地重建工程于2010年11月竣工。2011年1月11日（农历十二月初八），宝山寺隆重举行了“上海宝山寺开山五百周年移地重建落成暨全堂佛像开光庆典”活动。上海玉佛禅寺方丈觉醒法师、台湾中国佛教会常务理事净良长老、泰国副僧王仁晁长老、青岛湛山寺方丈明哲长老、太原玄中寺方丈根通长老、上海真如寺方丈妙灵长老、静安寺方丈慧明法师、龙华寺方丈照诚法师、法藏讲寺方丈光慧法师等海内外诸山长老、大德法师为宝山寺全堂佛像开光主法。

从练祁河北岸进入宝山寺山门广场，首先映入眼帘的是雄伟的正山门，山门正中悬挂的是由世良法师亲自题写的“宝山寺”匾额。进入山门，顿感唐韵古风扑面而来，沿莲花池上的拱桥拾级而上，看到的是巍峨的天王殿、钟鼓楼和高耸的花岗岩经幢，东西连廊回转。整个建筑群布局通达自然，天地融合，体现出佛教博大精深、微妙玄通的思想。

由天王殿出来便到达舒朗开阔的丹墀，寺院的核心建筑——大雄殿即映入眼帘。在丹墀正中有一座铜铸莲花座，上有法轮火焰球。丹墀东侧为药师殿，西侧设观音殿，两殿相对，均为一层唐式宫殿式建筑。丹墀正北的大雄殿气势雄浑，凝重沉稳，斗拱撑起挑出的屋檐，犹如展翅的大鹏。殿内正中供奉释迦牟尼佛，两侧侍立迦叶尊者、阿难尊者，东奉大智文殊师利菩萨，西奉大行普贤菩萨。五尊圣像庄严无比，均为铜铸贴金（衣服采用金箔，皮肤采用泥金）。圣像背后为大型油画《海会云集图》，由著名油画家蒋云仲先生历时四载、精心创作绘制而成，并捐赠给寺院永久供奉。该作品吸收敦煌壁画和永乐壁画之精髓，以油画材料和中国传统工笔画技法，呈现了佛陀法音宣流，圣贤云集，人天具共赞叹的殊胜场景，令观者宛如置身其中、亲临盛会。据负责监理该寺建筑来自于山西大同的师傅介绍，宝山寺内的大佛、大树均是先进行安座、移植，然后再加建殿顶和院门，这足以说明当时工程之巨大，建设之不易。

宝山寺规划在寺院中轴线以东建起花园，在花园后侧建宝塔一座。如今的宝山寺作为上海地区独特的以全花梨纯木建造的唐式寺院，正以其复古的建筑、巍峨的殿堂、广阔的丹墀、辉煌的佛像吸引着上海的各界人士，书写着新时代佛寺亮丽的复古风采。