云居寺始建于隋大业年间（公元605—618年），至辽圣宗时期（公元983—1011年）形成五大院落、六进殿宇，金、元、明、清各代都有修葺。1942年遭到日本侵略军轰炸毁环。寺门朝东，依山而建，依次是天王殿、毗卢殿、释迦殿、药师殿、弥陀殿、大悲殿。

云居寺是佛教经籍荟萃之地，寺内珍藏着石经、纸经、木版经号称“三绝”。“石刻佛教大藏经”始刻于隋大业年间（605年），僧人静琬等为维护正法刻经于石。刻经事业历经隋、唐、辽、金、元、明、六个朝代，绵延1039年，镌刻佛经1122部、3572卷、14278块。

云居寺不仅藏有佛教三绝与千年古塔，而且珍藏着令世人瞩目的佛祖舍利，与中国北京八大处的佛牙、陕西西安法门寺的佛指，并称为“海内三宝”。

寺的南北有两座辽塔对峙，南塔又称藏经塔，地下有藏经穴，塔已无存（正在复建）。北塔原名舍利塔，又叫罗汉塔，高 三十米。下部为楼阁式，中间空，有磴道可登；上部是覆钵形，有相轮、宝顶。这种建筑形式在中国现存古塔中极具特色。塔的四面各建有一座三米多高的小唐塔，为唐景云二年（公元711年）至开元十五年（公元727年）间所建。五塔形成一个整体，为中国金刚宝座塔（五塔）的早期实例。寺内及周围山上还有唐、辽、明各代建造的砖、石塔十余座，其中以石刻大藏经创始人静琬的墓塔——琬公塔和为纪念唐代金仙公主捐助刻经事业而建的金仙公主塔最为著名。北塔北侧有清代的“三公塔”。