东岳行宫位于甘露镇赵更上村后，始建于唐乾符元年（公元874年），其前身为善智尼寺。在《无锡县志》两江总督采进本卷三下事物第三祠宇三之八中有如下记载：善智尼寺在州南二十八里延祥乡甘露市师姑桥侧，唐乾符元年建，为比丘尼之所居。

明崇祯十年（公元1637年）因右河中浮现东岳圣帝金像，而改建为东岳行宫。清康熙五十四年（1715）重修前殿，翌年三月全面修缮行宫殿宇，行宫香火兴盛至极，距今已有千余年历史。

清康熙以后二百多年虽历经战乱，行宫却一直得以延存。1958年夏，值大跃进时期，为支持社会主义建设，千年行宫毁于一旦。次年，原殿建筑材料移至现甘露中学校址，用于建造校舍。剩余材料于1966年用于建造现蔡湾村五金厂厂房，原行宫的青石龙雕、石马尽沉于殿基东侧师姑河浜底。

1978年三中全会后，思想得到解放。1979年春，由在香港帮佣的某善信出资100元造大殿一间，于同年冬被当时的长征大队强行拆除。1985年夏，常熟莫城信众发心重建大殿，慷慨捐助砖五万五千块，然用于建造大殿只用了五千块，剩余五万块砖由公社挪用至甘露安息堂。

1990年初，众信士再次发心，重建了现今的五间岱狱大殿。2011年4月又由里人出资于大殿东侧建造了4间寮房，上梁当日由梅村信众前来抛梁。于2012年6月，里人重塑如来观音金身。2014年起，又投入二千多万元对行宫进行全面改造，新建了烈帝殿和山门，用时一年有余，终成现在的东岳行宫。

现在的东岳行宫共有一厅二进，均为五开间硬山顶建筑。前厅是山门，有石狮一对镇守山门，并于门前建天炉、烛棚。

山门檐下挂“甘露东岳行宫”竖额，并挂有一副黑地金字抱联：倚势欺人，人或容，神明不容；瞒天昧己，己未觉，造物先知。

大门两旁有一副刻联：万恶淫为首；百善孝为先。

门厅进深两架，内挂“八湖福地”横匾，左右两侧为牵马俑彩塑像，后门外檐下挂赵朴初题书的“道法自然”匾。

2021年10月18日摄