青云寺原称旧寺，创建年代无考，现存弘治十六年（1504）的《重修旧寺观音堂记》等碑记数块。

青云寺位于徂徕山大寺东北不远的山坳中，三面环山，环境清幽。现有山门天王殿阁、韦驮殿、正殿留存。

正殿三间，2005年重修过，现殿内尚有壁画三楹，估计是清末重修时的作品。

寺内的古槐亦有四五百年的历史了。