走进徐家汇天主教堂，最为引人注目的是彩绘玻璃和玫瑰花窗。会堂山墙与南北两翼墙上有圆形玫瑰花窗。山墙主窗为辐射式玫瑰花窗，中花四叶，周围12朵五叶玫瑰花。南北翼耳堂侧墙上为轮式玫瑰窗，中花八叶。

窗户上镶嵌彩色铅玻璃，光影美轮美奂。在中间的横廊的窗上有据说是修女自制的贴上去的窗花，很漂亮的颜色和图案，还代表着圣心和圣母心的故事。

历史建筑的价值不因城市的膨胀而消亡，这里现在依旧是上海重要的旅游景点，也曾成为很多电影的拍摄场地，著名导演斯蒂芬·斯皮尔伯格1987年的作品《太阳帝国》就曾在此取景。

        早在1846年，第一次鸦片战争后，法国天主教传教士南格禄进入上海，就曾在徐家汇得到一块土地，造两幢房屋，作住所兼临时礼拜堂。1847年3月南格禄决定将徐家汇作为耶稣会的基地，1848年在徐光启墓地北侧创立耶稣会神学院。

       为了举行盛大的宗教仪式，决定建造正规的教堂。1851年3月在肇嘉浜西岸建造希腊式教堂，即徐家汇老天主堂。教堂为希腊神庙式，带有中国的装饰，由西班牙著名建筑师范佐廷(Ferrand Jean)设计，这也是中国第一座西方建筑式样的教堂。

       随后教堂开始扩建。1879年于旧址扩建西式楼房。1890年后，由于教会开办孤儿院，并在居民中发展编结等手工业，因而吸引了大量居民迁入徐家汇。之后教徒日益增多，新增信徒达一万多人，仅能容纳200余人的旧堂逐渐不敷使用了。

       1896年法国耶稣会传教士开始募款筹集资金，意欲在旧堂的西南侧建造新堂。因当时在建天文台、扩建会院等工程，财力不足，建造新堂的工程一直拖到1904年。

       清光绪三十年(1904)，道达洋行的英国建筑师道达尔(W.M.Dowdall)设计新堂，光绪三十二(1906)年动工，宣统二年(1910)落成。因延续老堂继续奉耶稣会创始人圣依纳爵·罗耀拉（St.Ignatius of Loyola）为主保，故正式名称叫圣依纳爵堂（今大堂主祭坛前有圣依纳爵像）。当时有“远东第一大教堂”之称，在1920年代以前一直是上海最高的建筑，至今依旧是上海最大的天主堂。

        解放后的1960年，徐家汇天主教堂恢复为上海教区主教座堂。1966年“文革”中，该堂再遭劫难，损毁严重，两座钟楼尖顶均被拆除，四周的彩色玻璃花窗损坏殆尽。教堂亦改为上海市果品杂货公司的果品仓库。

       直到1979年1月，果品公司迁出，教堂进行大修。同年11月1日的诸圣瞻礼日，利用先整修出的大堂后的两间厅堂，举行了文革后的首次弥撒。随后于1982年8月，两座各重达13吨的十字铁塔架，重新安装到钟楼上,修复了钟楼。

       1985年1月，李思德、金鲁贤神父任上海教区助理主教的祝圣仪式在此举行。1988年2月，张家树主教去世后，其骨灰安置在该堂。

      1989年9月25日，徐家汇天主堂被列入上海市第一批优秀近代建筑名录。

      2013年5月3日公布为国家级文物保护单位。