人工智能将“破坏性”冲击人类文明？

2025-09-24

美国《国家利益》双月刊网站8月9日刊登题为《人工智能——通往乌托邦抑或反乌托邦的道路？》的文章，作者是美国史汀生中心高级研究员罗伯特·曼宁和美国大西洋理事会客座高级研究员费里亚尔·阿拉·赛义德，内容编译如下：

人工智能的发展势不可挡。然而，这并不意味着它不能调整至符合以人类为中心的优先事项。这场竞赛正在对风险认识不足的情况下加速——其中许多风险甚至连人工智能创造者和企业领袖自己都已发出了警告。在对速度和统治力的追逐中，对安全性、人类影响及无法阻止灾难性后果的担忧被故意淡化。眼下的挑战不是制止这列火车，甚至不是让它减速——而是要改变方向以确保创新始终与人类的目标一致。

开放人工智能研究中心(OpenAI)首席执行官萨姆·奥尔特曼在一篇关于超级人工智能(其定义为“超越人类智能的人工智能”)的博客文章中解释道：“我们正在为世界构建大脑。”机器人有朝一日可以通过采掘原材料、驾驶卡车和运营工厂来掌管整个供应链。更令人惊叹的是，某些机器人甚至可以制造更多机器人来建设芯片制造厂、数据中心和其他基础设施。机器人不仅将推动未来，它们还将“永无止境地”建设未来。

埃隆·马斯克、马克·扎克伯格和马克·安德森等科技领袖和风险投资者设想了一个由科技决定的未来：届时人工智能将根除疾病、逆转环境崩溃、发现无限能源并带来一个富足的时代。谁会不喜欢呢？然而，科技领袖们也设想人工智能将彻底改变社会，以至于人们将退缩到虚拟元宇宙中，结成人工智能友谊、使用加密货币交易并依赖于部分由科技公司资助的“全民基本收入”(UBI)。

一些人认为，一种极端的、更黑暗的愿景正在形成：在这个愿景中，国家逐渐分解为由技术官僚精英治理的网络国家——即苏格拉底的哲人国王理念的现代版本。无论这是否现实，这项技术的抱负具有完全的变革性。不过它无法充分解决其负面影响。它类似于英国作家奥尔德斯·赫胥黎在表达的反乌托邦愿景，其核心信念认为：技术(尤其是人工智能)将“为一切加码，永无休止”(科学记者亚当·贝克尔语)。

人工智能可望以空前的速度和显著的破坏性改变文明。在历史上，即便是在拥有充裕闲暇时间的社会里，人们也拥有有意义的工作。而关于“全民基本收入”的讨论暗示了相反的情况。当工业革命取代前工业和农业时代的体力劳动时，新的工作岗位被创造出来，变革在数百年时间里缓慢出现。相比之下，人工智能革命可能在无法立即提供替代就业机会的情况下迅速取代知识劳动者。当人工智能将那些依赖推理、判断、责任感、伦理和道德(所有这些都是机器所缺乏的人类才能)的职业自动化时，业绩和安全性可能受到影响。

美国政治学家伊恩·布雷默最近在《外交》双月刊上撰文称这个新世界为“科技极权”：在这样的世界中，科技业成为左右地缘政治和公共生活的无处不在的非国家行为主体。毫无疑问，美国的大科技公司(或称“科技巨头”)将承担历史上曾属于民族国家的角色，并(在某些方面)与政府交织在一起。对科技巨头影响力的更贴切类比是英国东印度公司，它从16世纪末到19世纪初曾充当获得不列颠王室支持的拥有巨大自主权的主权实体。

民族国家用了大约两个世纪时间重申自身地位并让东印度公司寿终正寝。无独有偶，今天的科技巨头们积累了巨大权力，通过对已成为现代社会不可或缺一部分的数字基础设施和平台的控制影响国家行为。科技巨头正在影响美国的政策，部分原因是国会最近才开始行动，还有部分原因在于变化的速度太快。

历史上很少有一项拥有如此巨大变革能力——以及如此明显和被充分了解的风险和破坏性——的技术在人们几乎毫无防备的情况下被解除束缚。Anthropic公司首席执行官达里奥·阿莫代伊最近警告说，“你不可能站到火车前面直接拦停它”，但你可以，而且必须“让它偏离原先行进的方向10度”。这将是人们在人工智能竞赛中面临的核心挑战。