加载中…AI先驱给人工智能热按下“暂停键”
(2025-10-09 12:00:00)| 分类： 军事与科技 |
AI先驱杰弗里·欣顿：欲给人工智能热按下“暂停键”
2025-09-25
英国《金融时报》网站刊发《计算机科学家杰弗里·欣顿：人工智能将使少数人更加富有，多数人更加贫穷》：
杰弗里·欣顿。这位计算机科学家是人工智能(AI)先驱和诺贝尔物理学奖得主。
这位人工智能教父见证了人工智能从学术界到主流。
从加速推动转向发出警告
然而，聊天生成预训练转换器(ChatGPT)的出现以及随之而来的人工智能发展热潮，让欣顿从加速这项技术的发展转向对其风险发出警告。
欣顿变得非常悲观，指出该领域可能会对人类造成严重损害。
在人工智能的帮助下，一个普通人很快就能制造生物武器，这太可怕了。想象一下，如果街头的普通人可以制造核弹。
欣顿发起研讨，探讨为什么人工智能是一个合适的术语：“按照智能的任何定义，人工智能都是智能的。”
他想让我相信，人工智能对现实的体验与人类并没有太大区别。
欣顿说：“如果你和它们交谈并提问，它们就会理解。毫无疑问，这些东西将变得更加智能。”
有些人认为现有技术只不过是一种复杂的工具，无法与物理世界进行有意义的互动。这一代人工智能还无法达到人类的智能水平。
AI与人类是“母婴”关系
欣顿与那些利用他成果的人截然不同。他的成就直到晚年才得到认可。
欣顿认为，人类“唯一的希望”是让人工智能成为我们的母亲，“因为母亲守护婴儿的生命”。
欣顿认为在5到20年之间，人工智会变得超级智能。
欣顿对政府干预不抱希望，并批评美国政府缺乏监管人工智能的意愿。
但中国对此非常重视。只需要一个国家想出对策，然后告诉其他国家。
能相信中国吗？欣顿说：“这是次要问题。人类的生存比友善更重要。”
他此前曾主张暂停人工智能的开发，签署了多份反对OpenAI转变为营利性企业的信。
关于人工智能能力的讨论经常被描述为纯粹的炒作，这种话术对科技公司来说很省事儿，而且依然有效。
警惕“认知卸载”问题
人工智能可以帮助解决饥饿、贫困和疾病等重大问题。
欣顿的两任妻子都死于癌症，他对医疗保健和教育的前景感到兴奋，除此之外就没什么了。
他说：“实际会发生的事情是，富人将用人工智能取代工人。这将造成失业，利润也会大幅上升。让少数人变得更富有，而多数人将变得更穷。这不是人工智能的错，而是资本主义制度的错。”
奥尔特曼和他的同事们曾建议，如果劳动力市场对人口来说太小，就应该引入全民基本收入。但欣顿表示，这“无法解决人的尊严问题”，人们从工作中获得价值。
它会导致我们变得懒惰和缺乏创造力吗？“认知卸载”是目前正在讨论的一个观点，即人工智能工具的用户将任务委托给人工智能，而不进行批判性思考或保留检索到的信息。
欣顿说：只要我们能够使用有用的人工智能系统，它就是一个有价值的工具。
我们与“具身人工智能”(即机器人)和谐共处，并随着不断为身体添加人工部件和化学物质来延长寿命，我们自己也慢慢变成半机械人。
如果我们失去了自我意识，失去身为人的意义。永远失去它——这难道不是一种消亡吗？
我们正处在一个历史时刻，某件惊人的事情正在发生，它可能是非常好的，也可能是非常坏的。
喜欢
0
赠金笔
前一篇：《马可·波罗游记》·第三卷·4
后一篇：《马可·波罗游记》·第三卷·5