凤凰寺整体布局都依照伊斯兰教义所建，主要建筑物向着麦加，布置在东西向的中轴上，大殿的建筑风格带有江南独特的秀气与质朴，是凤凰寺中最古老的建筑。整寺建筑群庄严古朴、气势宏伟，形态奇异。望月楼为凤头，礼拜大殿为凤体，南北两侧建筑为凤翼，后花园为凤尾，因而得名凤凰寺。

凤凰寺大殿殿内存有以阿拉伯文书写碑刻的阿老丁墓碑，后壁下部三间内各有伊斯兰艺术的珍品，包括青砂石制“经香台”、竹节望柱、束腰的刻花草及藏有木制“经函”等等特色工艺品，殿顶上建有三座宋代八角形的遗物攒尖顶，其中一座上头刻有“可兰经”文，相传是明景泰二年留下的文物，凤凰寺内的石刻经台和柱础石也经文物部门鉴定为宋代遗物，具有深厚的历史价值。寺内还珍藏着不少文物和艺术品，主要有木制的“经函”和一些碑刻。

1929年，因为市政建设拆除了魁伟的寺门和门顶，建了5层木制塔式望月楼，从此失去‘凤凰’的完整形象。 

现存三间砖砌礼拜殿除正中间的部分可能是宋代建筑外，其余为元明时期建筑。殿内后壁下部三间各有青砂石制“经香台”一座，两侧刻有竹节望柱，束要刻花草，藏有木制‘经函’等伊斯兰艺术珍品。   

从凤凰寺进院门，左侧有碑廊，相传寺内原有唐宋元各代碑刻，可惜已经看不见了，现存有明清石碑19块，大多是移存过来的阿拉伯人的墓碑。 

新大殿面阔5间，呈凸字形，与老大殿相连，是1953年杭州市政府出资修缮凤凰寺时重建。新大殿大门两侧上的小塔楼及房顶四周女儿墙上的莲瓣装饰均具有巴基斯坦建筑风格。新大殿起初做礼堂用，随着来杭州学习、工作、经商、旅游的中外穆斯林越来越多，老大殿已容纳不下主麻日来礼拜的穆斯林，礼堂便用来礼拜，于是成了新大殿。

因为穆斯林不允许男女混在一起礼拜，随着来清真寺礼拜的女穆斯林越来越多，2001年，在新老大殿连接通道南侧搭建了女礼拜殿。2011年修缮大殿时，把女礼拜殿和新老大殿融为一体，成了礼拜大殿的一部分。

礼拜大殿中轴线最前方的“凹壁”，朝向麦加的卡尔白清真寺，这是礼拜大殿最重要的部分之一。集体礼拜时，作为领拜之人的伊玛目，就是站在凹壁处，带领穆斯林一起礼拜。凹壁两侧经台上方倚墙立有4.7米宽的红漆木质经板，上雕经文，工艺精湛，十分古雅，称为天经一函，是明代景泰二年重修时所置。

与礼拜大殿遥相呼应的是高16.15米的望月楼，它是伊斯兰式穹隆顶结构和中式飞檐结构的结合体。伊斯兰教教历以月亮圆缺一周为一月，月亮圆缺12周为一年。所以，观月与穆斯林的历法有关，也与穆斯林日常的宗教活动有关，尤其与一年一度的斋月密切相关。古代没有先进的天文观测仪器，望月楼就是穆斯林登高望月的地方。

凤凰寺竖着27块古碑，除去6块汉文碑，还有1块波斯文碑，20块阿拉伯文字的墓碑，上面斑驳的文字透着神秘的气息。这些墓碑在历史的尘封中静静地矗立了七百年，最早是在聚景园的墓地里，后来迁移到凤凰古寺，就一直在这里“住”了下来。

经过国内外一流学者通力协作，对照莫尔顿英文原稿，并参校碑铭原文，初步完成碑铭的中译。从碑文中可以发现，墓碑的主人大多为大商人、军官，以及高官，他们有波斯人、阿拉伯人、突厥人等等，碑文的内容多为诗歌，赞扬墓主一生的事迹，以及包含了《古兰经》的内容。　　

这些碑文也从侧面反映了元代的杭州，各国人口汇集于此，阿拉伯人和波斯人可能还在西湖边低吟浅唱。那个年代，各种文化高度夹杂，融合在一起，互相学习，所以这些碑文的刻纹采用了汉式刻纹。