该清真寺建于1693年(康熙三十二年)，1789年(乾隆五十四年)重修，目前所见基本上为1923年扩建重修。该寺为呼和浩特市原有八座清真寺中历史最长、规模最大的一座，因此被称为清真大寺。

大门

  大门坐东向西，面阔3间，宫殿式歇山顶，前有廊檐，中间为朱红色正门，正门上悬“清真大寺”横匾及“国泰”“民安”四字。正门两侧开有便门，两侧是蓝色的墙面。

礼拜大殿

礼拜大殿位于大门内，是全寺的主体建筑，坐西向东。

望月楼

望月楼位于三进院东南角，建于民国二十八年（1939年），总高约36米，平面六角形，成六棱体塔楼。塔楼共分五层，下四层用砖砌，顶层木构亭式顶。塔楼的第三层正西面用汉文和阿拉伯文书有“望月楼”三个大字，正东面底层设入口。

寺内存康熙三十三年勒石《重到洪武御制回辉教百字碑》、《康熙圣谕碑》、《重修绥远清真大寺碑》等石碑。