“至多是愚蠢難的至遭是欺骗的和危险的”：不要相信炒作——这裏是为什么通用人工智能不是亿万富翁告诉你它是的

By Emily M. Bender, Alex Hanna published 16 hours ago

Artificial Intelligence

 “不幸的是创建通用人工智能的目标不仅是一个在科学论文中為一個假设的项目。在这项工作中投入了有真的资金，它的大部分来自风险投资家。”

When you purchase through links on our site, we may earn an affiliate commission. Here’s how it works.

(Image credit: DKosig via Getty Images)

围绕人工智能（AI）的炒作冒围绕這個新兴技术升级成荒谬的领域的说法螺旋出控制的風險。《人工智能的反論點：如何对抗大科技的炒作並创造我们想要的未来（THE AI CON: How to Fight Big Tech's Hype and Create the Future We Want）》（2025）一书的作者写道，人工智能是一项大生意，我们看到的营销宣传被意味來促进大科技的利益並做一件事：销售人工智能产品。

在这本新书中，华盛顿大学语言学教授艾米莉（Emily M.Bender）和分布式人工智能研究所研究主任阿列克斯（Alex Hanna）挑战我们的人工智能是什么以及它不是什么的理解。最终，他们试图看穿许多夸大其词和耸人听闻的说法來理解人工智能对社会有的真正影响。

在这段节选中，作者们抓住通用人工智能（AGI）的想法、该想法的起源以及该术语实际上意味的。在这篇摘录中，他们爭論通用人工智能的真正定义和一個假设的“超级智能”充其量是模糊的並在实践中只服務來喂企业人工智能炒作机器。

如果你听大型科技公司的高管和研究人员的话，你会认为我们正处于一個机器人起义的边缘。2022年2月，OpenAI公司的首席科学家伊利亞（Ilya Sutskever）在推特上写道：“可能是今天的大型神经网络稍微的是有意识的” 。

2022年6月，《华盛顿邮报》报道称，谷歌工程师佈雷克（Blake Lemoine）信服了谷歌的语言模型LaMDA是有感知的並需要法律代理。佈雷克因这一事件被解雇，不是因为他的虚假声明（谷歌确实否认了这一点），而是因为泄露私人公司信息。在2022年8月的一篇博客文章中，谷歌副总裁研究员佈雷色（Blaise Agüera y Arcas）对佈雷克的故事回应了，但不是反驳佈雷克的说法，而是他提示LaMDA确实真的“理解”概念，关于LaMDA是否有感情的争论是不可解的或者“科学上有意义的”

2023年4月，由瑟巴斯申（Sébastien Bubeck）领导的微软研究院的一个团队发表了一篇未经同行评审的题为“人工通用智能的火花：GPT-4的早期实验”的论文，其中他们声称來顯示语言模型GPT-4“能解决跨越数学、编码、视觉、医学、法律、心理学的新颖和困难的任务”，从而顯示第一個“人工通用智慧的火花”

 “火花”一词引發人一個某些即将着火并自行蔓延的东西的圖像。这里的“通用人工智能”一词被意味区别于普通的叫“人工智能”的在围绕思维、感知或有意识机器的现代话语中特別常见的技术，。

这些说法并不新鲜。60多年前，研究人员、企业高管和政府官员正在關於计算机智能的性质以及超人智能在工作、家庭以及最警告人的在战场上取代人类的风险做出爆炸般的宣稱。

 “通用智能”的险恶起源

尽管声称机器有一天可能取得一個先進的“通用智能”的水平，但这样一個概念并没有一个被接受的定义。（OpenAI已經避免了这个问题建议他们將允许他們的董事会决定何时他们的算法已經取得通用人工智能）。但识别通用智能的项目本质的是种族主义，它的核心是能力主義，使得追逐通用人工智能的项目至好是愚蠢難的，至糟是欺骗的和危险的。

微软的“火花”论文包含对通用智能的一個初步定义，一種没有提及可能在这樣一件事如心理学或认知神经科学有一個説法的领域。尽管是一篇声称某些统计模型已經显示了“通用人工智能”的墨跡的论文，但通用智能的组成部分是的没有一个范围很广的定义。

在该论文的先前版本中，作者引用了1994年《华尔街日报》的一篇被52名心理学家组成的小组签署已經提出了这一定义的社论：“共识小组将智力定义为一种非常普遍的心智能力，除其他外涉及來推理、计划、解决问题、抽象思考、理解复杂想法、快速学习和从體驗学习的能力” 。

不幸的是，创建通用人工智能的目标不仅是一个在科学论文中活著的项目。在这项工作投入有真的资金，其中大部分来自风险投资家。

其中很多人可能只是追随时尚的风险投资家（VC），但在這個混合中也有许多通用人工智能的忠实信徒，其中一些人有钱要燒。这些意识形态上的亿万富翁——其中包括埃隆·马斯克和马克·安德森——正在帮助制定创建通用人工智能的议程并财政上支持如果不是直接歸附一個现代优生学。这被建立在保守政治、一個對前生育政策的痴迷以及一個右翼对多元文化主义和多样性的攻击的结合之上，所有这些都隐藏在技术进步的表象之后。

 “超级智能”的炒作

为什么这么多参与构建和销售大型语言模型的人似乎都已經落入他们（可能）有感知能力？的想法呢？为什么这么多人花这么多时间警告世界關於“超级智能”的“生存风险”，同时又花这么多钱在这上面呢？

一句話，围绕意识和感知的宣稱是向你推销人工智能的一种策略。这个空間的大多数人似乎只目標在制造出取得看起來像人类智能一樣的技术系统來走在已经一個非常拥挤的市场的前頭。市场也是一个小世界：研究人员和创始人在几家主要科技公司玩家微软、谷歌和Meta之间无缝的移动，或者他们出去创建从大型科技公司接收数百万风险投资和种子资金的人工智能初创公司。

RELATED STORIES

—AI creates better and funnier memes than people, study shows — even when people use AI for help

—Scientists discover major differences in how humans and AI 'think' — and the implications could be significant

—Traumatizing AI models by talking about war or violence makes them more anxious

作为一个数据点，2022年，24名谷歌研究人员离开加入了人工智能初创公司（而我们中的一位阿列克斯离开加入了一家非营利研究机构）。另一个数据点是按照Pitchbook，仅在2023年，就有415亿美元的风险投资交易流向了生成型人工智能公司。已經估计回报是巨大的。那一年，麦肯锡提示很快生成型人工智能可能会每年为全球经济增加“高达4.4万亿美元”。当然，这样的估计是這個炒作机器的一部分，但风险投资家似乎并不认为这一事实应该阻止对这些工具的投资热潮。

这种炒作靠在关于人工智能的比喻上：有感知力的机器需要被授予机器人权利，或者矩阵式的超级智能对衣衫褴褛的人类抵抗者擺出一個直接威胁。这有超越风险投资公司和其他投资者中资金流通影响，最值得注意的是因为普通人被告知他们将失业。

https://www.livescience.com/technology/artificial-intelligence/foolhardy-at-best-and-deceptive-and-dangerous-at-worst-dont-believe-the-hype-heres-why-artificial-general-intelligence-isnt-what-the-billionaires-tell-you-it-is