南堂始建于1601年（明万历二十九年），为神宗皇帝批给来华耶稣会士的住地。意大利藉耶稣会士利玛窦（1552.10.6-1610.5.11）来京后也在此地居住。利玛窦以黄金五百两买下其住地旁的"首善书院"（原为明东林讲学之所），将其作为私人祈祷所，规模很小。随着信教人数的不断增加，1605年（明万历33年），利玛窦神父将其改建成了一座小教堂。当时北京有奉教者二百余人。

    1650年（清顺治七年），德国耶稣会士汤若望将其建成一座20米高的巴洛克式大教堂，圣堂长八丈，宽 四丈四尺，奉无染原罪圣母为主保。同时还在西侧建神父住宅、天文台、藏书楼和仪器馆，四米高的铁十字架矗立在教堂的顶端。教堂竣工后，汤若望神父立碑记其事（此碑现今仍留在圣堂两侧）。顺治帝御笔亲书"钦崇天道"匾额，1657年（顺治十四年）又御笔亲书"通玄佳境"（后人为避康熙皇帝玄烨之讳，改"玄"为"微"，而成"通微佳境"）门额和御制天主堂碑铭，对汤若望作了高度的评价。因汤若望的博学和友善，顺治帝在1656-1657两年之间，曾24次到南堂微服私访，并与汤若望促膝谈心，还亲切地尊称59岁的汤若望神父为"玛法"（玛法是满语："父亲"的意思），汤若望历任满清两朝官吏，官至二品钦天监监正。

    1666年，汤若望神父去世，继之而来的是比利时耶稣会士南怀仁。1675年（清康熙十四年），康熙帝两次亲临南堂看望南怀仁神父，为南堂御笔"万有真源"匾额和"敬天"匾额，命悬挂于南堂内。1690年（清康熙二十九年），成立北京教区，任命意大利籍伊大仁（又名康和之）为主教，南堂作为主教府。此后南堂遭地震破坏。       1703年，康熙皇帝御赐银十万两，重新修建。1775年（清乾隆四十年），南堂不幸毁于火灾，原顺治和康熙帝为南堂御书的匾额及对联全部被烧毁。乾隆帝赐银一万两，赦令照先帝所赐之原貌加高加大重建天主堂，并恢复所有皇帝亲笔御题之匾额和对联等。雍正八年，北京地震，死伤约十万人，南北二堂遭受损失。雍正赐银一千两从事修理。雍正年间(可能是雍正十年)，南堂一度曾被关闭。1775年遭火灾，后乾隆帝又赐银万两，重新修复。南堂失火，所有康熙书之“万有真元”匾额及对联，都被火毁。高慎思、安国宁两位神父上书引咎。乾隆帝赐银一万两，饬令将天主堂照康熙例重建。所有匾额和对联又都由乾隆帝亲笔御题，完全恢复旧观。(不过，他把“万有真元”改写为“万有真原”了。)

    道光十八年(1838年)，南堂被关闭。道光二十四年(1844)十二月二十八日，道光皇帝才废除了对天主教的禁令。

    道光二十六年，南堂被归还。1860年重修南堂，并由北京孟主教重开南堂。

    1900年6月14日又遭火焚。1904年重新修造大堂及其附属房屋，即现在南堂。现仅存两块石碑记载着1650年的建堂历史。