后土祠的原址在汉代汾阴故城西北二里的汾阴脽上，汉武帝所立的后土祠就在那里，汉代皇帝和唐玄宗、宋真宗率领文武百官也都是在那里顶礼膜拜。明隆庆年间（1567—1572），黄河干流向东摆动，到明万历末年，后土祠只得往东移建。清顺治十二年，祠内建筑大部分被黄河水决冲毁，只留下秋风楼和门殿，康熙元年，黄河再决，连秋风楼也一同淹没于黄河中，康熙二年，后土祠移地重建于今庙前村，同治六年，后土祠再次被黄河之水冲毁，同治九年再建于今址。原址所处的汾阴脽上是一条背汾带河的长形高地，《水经注》记载：有长阜，背汾带河，长四五里，广二里余，高十丈，汾水历其阴，西入河。《汉书》称这块地方为汾阴脽。唐时颜师古云：因其地高而起，如人尻脽而名之。目前以脽为名之地惟有此黃河汾河交汇处，此地在春秋战国时属魏地，所以又称魏脽。脽字注解有三，一为臀部，如厩马多肉尻脽圆；二为尾椎骨；三为小土山，《史记孝武本纪》云：於是天子遂东，始立后土祠汾阴脽上。