据《荥阳土地志》记载：“洞林寺始建于东汉末年（约200年），金大定三年重建。”传说达摩老祖来中原后，建有三林（洞林寺、少林寺、竹林寺），被称为天中三林，是佛教在中原著名的三大寺院。其中洞林寺始洞林寺创建最早，始建于东汉末年，距今1800年的历史，较少林寺早300多年，与开封相国寺、洛阳白马寺和登封少林寺合称中原四大寺院。距今已有1800余年的历史。

    洞林寺始建于汉，盛于唐、宋、元、明。寺有洞林三景，白玉佛、洞林晚钟、楚金炉更是享誉四方。明周靖王卒葬于寺后，遂称王家之佛堂。经多年战乱，洞林寺在清末开始衰败。据说朱元璋幼时居住在娘舅家避灾荒、距洞寺不远，七岁时就到寺中打杂做和尚，在此留下了许多妙趣横生的传奇故事。因此，朱元璋当上皇帝后，御赐此塔。

    洞林寺各种建筑巍峨挺拔，规模壮观。前面是气势雄伟的三道山门，往后依次是：天王殿、中祖殿、观音堂、大雄宝殿、后殿、伽蓝殿、大祖宇以及僧众的斋房、禅堂、练武场、经楼塔林等建筑物。寺内碑碣林立，单刻、连刻石碑不计其数。遗憾的是，有不少建筑物在“文革”期间遭到破坏。仅存两殿、一古塔、一玉佛、一鼎和碑刻、6通。其中的明周旨谕碑，碑高2.4米、宽95厘米，刻旨谕并明周王序。明嘉靖二十年（1541年）立石，现存放洞林寺内。元《大藏经记》碑，碑高2.4米、宽1米，正面刻“大藏经记”全文700字，阴面刻洞林寺历史派系图。另外在洞林寺后古洞内，有白玉佛一尊，名为“南无日光菩萨”。明洪武十五年（1382年）秦朱元璋旨造石，像高1.63米，色泽光润，雕工细巧。寺院的西北方向有座瓶状式塔，名“国舅塔”，属印度式样的明塔。建于明朝洪武十七年（公元1348年），塔高约10米，共九层。