中岳庙崇圣门后东侧，有一座无木结构建筑——古神库。库房的四角各有一尊高约九尺，重三千余斤，用一百多块生铁拼铸而成的大铁人。铁人武士风度，握拳振臂，怒目而视，高大威武，俗称“镇库铁人”。也有人称“守库将军”。据说北宋平治元年（公元1064年）整修中岳庙时，为防火除邪保护神库而铸立的。

相传，北宋英宗年间，敕命修葺年久失修的中岳庙。在大规模的整修过程中，人们正在为拆除的神像如何发落犯愁时，从陕西来了一位看风水的道人。他建议把神像埋入地下保存起来。中岳庙道长接受建议，便在此处挖一地宫，将旧神像封存起来，地面盖一建筑物，名曰神库。

经过内外整修，庙貌大为改观。就在大家都为修复工程将要竣工而高兴的时候，时任道长却高兴不起来。因为他在为庙内过去年年有火灾而发愁。这次庙内整修得这么好，要是再发生火灾，皇上怪罪下来，我可承受不起呀！就在道长为此事寝食不安时，有人建议说：“何不把前年曾来过的那位陕西道人请来，看他有没有办法解决。”道长听后，喜出望外。对呀，何不把他请来！

道长差人快马加鞭日夜兼程赶往陕西，不几日，陕西道人请到。道长宾客相待，详说来由。道人听后沉思片刻说：“那就试试看吧！”道人几天之内详细察看了庙内庙外，东西南北。然后对道长说：“庙内发生火灾原因不在庙内，而是庙后西边那座小山头起的凶。只要能镇住它就没事了。”（此山头名为红石岩坡，也有称火焰山的。）他提议用铁人代表道教信奉祭祀的“水星”去镇住火焰山，便可消灾避难。

道人建议：在神库四角分别铸立一尊铁人。东北角铁人面向西南镇守“神库”，其余三个铁人统统面向西北，牢牢盯住庙后西边的火焰山。从此以后，中岳庙再没发生过火灾。

据说，铸造铁人的捐资者为偃师县府店两家同年考取榜眼和举人的董姓和王姓施主。这四尊铁人是我国现存铸铁艺术品中形体最大，保存最好，造型最佳的艺术珍品。奉为中岳嵩山“镇山之宝”。许多善男信女慕名不远千里前来烧香还愿，祈求幸福平安。更有每逢三、十两月庙会携子来此认干亲者成群结队，彩云幛幔，吉祥红绳挂满铁人全身和周围古柏枝杈，形成一道亮丽、吉祥、和睦的人文景观。