城墙是战争中用于防守的墙垣，城门则是防线上的弱点，为了加强防卫，在随墙而辟的城门之外，再筑起一道重门，用以构成里门之外的又一道防线，里外门之间的围合空间犹如大城外的一座小城，此“小城”即谓之“瓮城”。战时，瓮城为守城将士提供了同敌人迂回的绝好条件，风水家则借瓮城以“避煞”，而十分现实的是瓮城足以遮避来自郊外的风尘。

中国瓮城之制起于汉，本邑何时始有瓮城，查无考证，只知明正德四年（1509）修下了东门瓮城，嘉靖三十一年（1552）筑北门瓮城，嘉靖四十一年（1562）更新了城楼，万历二十二年（1594），“修筑东西瓮城者三，皆以砖石”，清康熙三十五年（1696），补修南门瓮城，四十年（1701），补修上东门瓮城。

康熙四十二年（1703），皇帝西巡要路经平遥，于是六座城楼也为之修缮一新；四十四年（1705），又补修了上东门大门楼并门洞。道光三十年（1850）至咸丰六年（1856）进行了一次全方位、大规模的城墙维修工程，曾“兴工东西北五门，悉仍旧基补筑，惟南门高加数尺”，造就了现存的规制。

在六道古城门中，东西四道，两两相对，上东门、上西门、下西门的重门均向南而开，棉队远方哪个的山河，使之“纳气”；下东门的重门中轴线则与里门中轴线平行，它朝向通往京都的官道，以示对朝廷的尊敬。南门的重门虽与里门相错，但因势利导，仍然面南。北门的重门与里门呈90°角而向东开，沐浴着东方的曙光。