郑州市人民公园南门，是一个并不引人注目的小门，它位于西太康路北侧，毗邻郑州购书中心大楼，如同一位耄耋老人，默默地注视着门前现代都市熙熙攘攘的闹市街衢，它那古朴陈旧的外观，与附近时尚繁华的商业店铺、高耸气派的摩登大厦显得有些格格不入。

但是不要轻看这样一个貌不惊人的小南门，门两侧的楹联，乃是有“当代书圣”之称的国民党元老于右任撰写的：“百战奠山河 革命勋勤昭国史；万人空道路 中原庙祀报元戎”。这是于右任为胡景翼祠专门所作。他和胡景翼为陕西同乡，曾向孙中山举荐胡景翼，两个人有着极深厚的感情。

胡笠僧名景翼，民国十一年（1922年）第一次直奉战争时，胡景翼跟从冯玉祥将军参加了郑州之战，1924年担任河南督军、省长等职，同年4月10日在开封进行左腕疗毒时不幸逝世，年仅34岁。

胡生前曾为其阵亡将士在郑州西郊建冢而葬，后来又在西太康路觅地建祠，选中了老坟岗这片宝地。当时的祠堂规模很小，即现胡公祠大殿西边位置，老郑州人亦称之为胡公祠。当年的小院已经在1981年被全部拆除。胡去世后，祠并未扩建，8年后至民国廿一年（1932年），冯玉祥、张群、张继等，为纪念胡在河南及郑州的战斗业绩，力主建祠。1936年秋，历时4年建造的胡公祠终于完工，占地23亩，有殿、亭，并有一塑像，翠柏红垣，古色古香，为郑州当时一景。

2008年，郑州市拨款对胡公祠大殿进行修复，使祠堂得以焕然一新。

目前胡公祠保存大殿，祠门，古树等，虽仍作为人民公园南门，但祠园格局保存完好。