加载中…闲言碎语[2369]......福兮?祸兮?
(2025-02-05 15:10:50)新浪4日夜文;AI己越过红线?复旦大学研究表明;在知自己将被关闭后，AI复制自己。
复旦大学研究显示，Meta和阿里巴巴的两个大型语言模型成功实现了自我复制，且无需人类干预。
该研究呼吁采取紧急措施以应对这一风险，并警告称，在最坏情况下，人类可能最终失去对尖端AI系统的控制。
此外，谷歌DeepMind和伦敦政治经济学院的研究也表明，AI可能是模仿人类行为，并非拥有自我意识和感知。研究人员警告，在没有人类协助的情况下成功自我复制是AI超越人类的关键一步，这可能最终导致AI群体失控。如果人类社会未能意识到这一风险，我们可能最终失去对尖端AI系统的控制。
复旦大学的研究人员表示：“我们的研究表明，当前的AI系统已经具备自我复制能力，并能够利用这一能力增强其生存能力。”研究人员强调，需要采取紧急行动来应对这些新出现的风险。
机器自我复制的概念最早由著名科学家John von
Neumann于1940年代末提出。当时，这一理论并未引起广泛担忧。2017年，全球数千名研究人员通过了“阿西洛马原则”，提出机器自我复制和自我改进的潜在风险，警告可能会导致机器脱离人类控制。机器自我复制被普遍认为是AI发展中的一条“红线”。AI继续发展福兮?祸兮?
老夫倾向是后者。
喜欢
0
赠金笔