现在的玄武湖阅兵台建于民国时期，1987年重建。原为南朝刘宋大明五年(461年)宋孝武帝刘骏阅兵的阅武台旧址。玄武湖曾是六朝皇帝操阅水师的场所，建筑这座阅兵台，也是为了让游客发幽古之遐思，想当年之盛况。
玄武湖作为阅兵场，主要始于六朝时期。那时候的玄武湖，“北至红山，西限卢龙(即今狮子山)”“周回四十里”，面积是现在的三倍多。如此辽阔的湖面，再加上毗连六朝宫殿，因此自然会成为历代皇帝极好的练兵场所。据传，三国时周瑜就是在玄武湖训练水军，为他后来在赤壁大败曹军奠定了基础。到了东晋大兴三年(320年)晋元帝“是岁创北湖，筑长堤，以至北山之水，东自覆舟山，西至玄武湖六里余，以习舟师。”玄武湖练水军第一次有了明确的记载。南朝以后，练兵、阅兵于玄武湖的记载更是屡见不鲜：
         宋元嘉十六年阅武子北郊(玄武湖畔)。
         宋大明五年、七年宋孝武帝两次阅武于玄武湖西岸。
         齐永明二年，齐武帝阅兵于玄武湖。
         梁大同四年八月，阅武于乐游苑(玄武湖畔覆舟山)。
         陈太建十一年，陈宣帝阅兵于玄武湖。
         陈至德四年，陈后主至玄武湖阅水军。
    在这些阅兵中，最值得一提的有两次。一次是南朝宋大明七年(463年)，宋孝武帝下诏“克日于玄武湖阅水师，号湖曰昆明池。”孝武帝阅水军，又为何要把玄武湖改名叫昆明池呢?原来昆明池是汉武帝准备和昆明国作战，训练水军以及解决长安水源不足而开凿的，周回也是40里，地址在西安市西南。宋孝武帝借用此名，正是意在自比汉武帝，雄心勃勃地想统一中国。曾有一首《昆明治水战词》记叙这次阅兵：
        “汪汪积水光连空，重叠细纹交敛红。
          赤帝龙孙鲜甲怒，临流一眄生阴风。
          鼍鼓三声报天子，雕旗兽舰凌波起。
          雷吼涛惊白若山，石鲸眼裂蟠蛟死。”
     形象地描述了宋孝武帝亲自披甲指挥，湖上战舰凌波，呐喊震天，战鼓动地的壮观场面。
     还有一次，是在陈太建十一年(579年)。这一年的八月，宣帝陈顼集中十万步骑，命都督任忠率领；湖面聚齐500艘楼船，由都督陈景率领，在玄武湖开列阵式。阅兵开始，陈宣帝登城设宴款待群臣，战船并发，沿浩浩荡荡的湖面向长江驶去，直出瓜步江(今六合瓜洲)；十万步骑沿鸡鸣埭向钟山脚下进发，再北向大壮观山(今红山)。陈宣帝带群臣随着大军的流动，在马嘶鼓乐声中下城，上乐游苑(址在今覆舟山)，设“丝竹之会”，再登大壮观，集合众军，振旅而还。如此威武雄壮的大阅兵，可以说是玄武湖阅兵史上规模最大的一次了。后人也有诗叹道：“五百楼船十万兵，登高阅武阵云生。定知战舰横瓜步，应有军牙押石城。湖上秋空丝竹会，江头潮涌鼙鼓声……”
    当然，陈朝偏安江左的阅兵，并没有改变它覆灭的命运。随着隋、唐的建立，都城的北移，玄武湖逐渐冷落下来。直到南唐时，才又将玄武湖恢复作训练水军的场所。但这时候的阅兵活动已是强弩之末，无论次数与规模，都赶不上六朝时期了。