清真寺则分别重建于明嘉靖十年（１５３１年）和清乾隆九年（１７４４年），距今已有数百年的历史。至今仍保留完整的宗教礼仪及传统的经堂教育。整个寺院占地近万余平方米，建筑雄伟壮观，在全国百大清真寺中，其精湛的建筑风格和装饰均属罕见。

这座清真寺有前山门、碑楼、配殿、大殿、窑殿、耳房、南北厢房、沐浴室、以及“回”字形的庭院布局几部分构成。可以说是研究清代伊斯兰教清真寺建筑文化的典型实例。

前山门位于寺院中轴线的最东端，面阔三间，进深二间，高10米左右，单檐歇山顶。山门两侧为呈“八”字形的扇面墙，墙中央有精美的砖雕图案。山门上边正脊中央是狮驮宝瓶，两侧浮雕为琉璃龙凤图，正面为龙，背面为凤，龙腾凤舞，惟妙惟肖。

 门内廊上，挂着三块横匾。中间的匾，题为“至教真源”。这是河南巡抚朱玉琨在乾隆30年所写的。右匾题为“真一寰真”，是湖广总督裕禄题写的。 左匾题为“未雨先知”，是乾隆50年，纪晓岚所写的。这“未雨先知”四个字，还有一段典故。右边这根石柱和础石，是本寺的镇寺之宝。每当础石湿润，第二天必定有雨

大门两侧都有一对报鼓石。原意是固定门框所用。后来，经过不断地发展变成现在这样。人们赋予它许多期望和祝福。通过它们光滑的表面，不难看出其经历沧桑的历史印迹。这个报鼓石外侧图案是菊花叶子的图案，内侧是菊花的图案。菊花是开封人的骄傲。


山门内是一座“回”字型的庭院。这里花香鸟语，一片清净，与大街仅一墙之隔，感觉已经脱离尘世。庭院之内，看花草树木，五彩纷呈，令人赏心悦目。大殿前，左右立着两块国家保护标志和清真寺简介，再往里一点是两通古碑。


大殿前，左右立着两块古碑。左边一块是阿拉伯文碑。右边是翻译的汉文碑。阿文古碑刻于清嘉庆十。其内容是乾隆52年本寺的一位阿訇所撰写的伊斯兰教中的十三条戒律。同时还列出了戒律源出的十多部经典的名称，作为佐证。这座阿文碑的镌刻手法，细腻流畅，如行云流水，一气呵成。这是中国现存非常完整的阿拉伯文古碑之一，具有很高的观赏价值和文物价值。清真寺大院再往里走，眼前是一座大殿。其实这是配殿，再往里边的才是主殿。配殿房顶的墨绿琉璃瓦中央有三个菱形的黄色图案。这是什么意思呢？在明朝的重臣中有许多穆斯林，如常玉春，胡大海等，因此当时朝庭非常重视伊斯兰教及清真寺的建筑。众所周知，只有皇宫的建筑才用黄瓦，因为黄色象征着权力与地位。而伊斯兰教崇尚绿色，所以清真寺所用的瓦全部是绿色的。而这里有三个菱形的黄图图案，是有来头的。据传，元末朱元璋一挚友路经朱仙镇突发伤寒，病卧路旁，被朱仙镇的一名穆斯林村姑救起，带回家中疗伤，清真寺得知此人乃朱元璋之友后，清真寺便号召全镇穆斯林捐资合救之。此人康复后，不盛感激，遂禀报朱元璋，明太祖登基后，为了酬谢朱仙镇穆斯林救治挚友的义举，颁布法令：赐银援建朱仙镇清真寺并御封之。这才有了皇帝御封黄瓦的图案。卷棚的正前方前檐外部矗立着一排木栅栏，而每一条木条的上方都镶有一个剑状的把手，这种东西叫做拒魔剑，其义暗示，凡进入此大殿礼拜之人，都要将与拜功无关的私心杂念拒之门外，专心致志地敬拜真主。





 配殿的侧墙上挂有伊斯兰教的知识介绍











配殿地面上镶着两块黑色方砖。前面的那块刻写着“先天”，后面的那块则刻写着“中天”。“中天”石后，镶着直道，也刻着字“达天俊路”。石道直接通往正殿大门穆斯林认为：先天，是人出生之前灵魂所在的世界。在那里，每个人都曾和真主约会，承认真主的存在，并且是唯一的神。中天，是我们现存现实世界。伊斯兰要求穆斯林在中天要履行在先天所许下的诺言，即崇拜唯一的神——真主。 中间的直道，称为“达天俊路”或“天堂之路”，那就是通往后天——天国的道路