西花园因位于城隍庙西侧而得名。小巧玲珑，布局得体，东有厅堂、西有游廊、北有假山瀑布、其中还有造型奇特的多景楼和石舟坊，亭榭结合，浑然一体。以巧妙的借景，高超的叠石，精美的理水，洗练的建筑，在北方园林中别具一格。

这里，对我们游客留下最深印象的也许就是县衙。榆次县衙是我国保存较完整的县级衙属之一，素有“三晋第一衙”之称。县衙始建于宋朝，它座北朝南，中心对称，主体建筑都在一条线上，运用了三径三出、东高西低的传统修造方法，显得层次分明、凝重肃穆。

榆次县衙位于东大街北侧，占地两万平方米，五堂二十六个院落，整体布局、规模形制充分体现了明清时期的地方衙署“坐北朝南、左文右武、前朝后寝”的传统礼教思想。内有思凤楼、寅宾馆、牢神庙、县丞院，衙神庙，马王殿等。整个县衙经过历代修葺，从院落建筑到石雕、砖雕、木雕，刻工精细、刀法娴熟、生动古朴，有着极高的历史文化和艺术价值。
　　在榆次县衙，我们看到，一般的县衙它的规置都是四径三堂，而榆次县衙却有六径五堂，据说在公元979年的时候，宋太宗赵光义灭掉了北汉，水淹晋阳城，于是就把这个古并州府迁到了榆次，榆次县衙也就自然升到了州府衙门的规置，也就变成了六径五堂，后来一起沿袭至今。
　　据传，在明初时期，洪武皇帝朱元璋把他的三个儿子封在了太原，榆次作为三个古城中最重要的一个又被称为三晋首府，县衙建筑群中众多的建筑按功能可以分成行政管理、文化生活和神庙祭祀三个系统，其中，最重要的建筑就是县衙大堂。
　　在榆次县衙里，我们还发现了一件非常奇怪的事，就是在一般的县衙大堂里它悬挂的都是“明镜高悬”这么一块匾额，但是在榆次县衙里却是悬挂着康熙帝的一块御匾“剧暑悲难渡，晴秋喜却回”。据说，这块御匾被喻为榆次县衙的镇衙之宝，

据说，在清初的时候，一些反清复明的义士，比如说顾炎武、傅山他们经常来榆次，并且和榆次南关的一个名士王介石经常策划一些兴复大计。其实，康熙帝早已耳闻，只是忙于事务，无暇顾及这些事。到康熙42年的时候，他终于有机会来暗访山西，体察民情。结果到了山西榆次一看，其实，已经是时过境迁了。原来，那些前明遗老已经一一去世了，况且王介石的儿子也在清朝为官多年了。所以，康熙帝非常感慨这种时事的变迁，于是就亲笔写下了“剧暑悲难渡，晴秋喜却回”的御笔，并且把这块匾送给了当时的榆次知县祖良才。从此，这块御匾就代替了一般县衙的“明镜高悬”，成为了榆次县衙的镇衙之宝。