闲言碎语[2405]......Al
(2025-09-11 16:19:22)马斯克认为,由于低出生率和人口减少,人类智力目前处于停滞状态,而最终会开始下降。
马斯克预测,从明年开始,人工智能将比任何人类个体都要聪明。到2030年,人工智能将比所有人类的总和还要聪明。
复旦大学研究显示,Meta和阿里巴巴的两个大型语言模型成功实现了自我复制,且无需人类干预。复旦大学的研究人员表示:“我们的研究表明,当前的AI系统已经具备自我复制能力,并能够利用这一能力增强其生存能力。”研究人员强调,需要采取紧急行动来应对这些新出现的风险。该研究呼吁采取紧急措施以应对这一风险,并警告称,在最坏情况下,人类可能最终失去对尖端AI系统的控制。
谷歌DeepMind和伦敦政治经济学院的研究也表明,AI可能是模仿人类行为,并非拥有自我意识和感知。研究人员警告,在没有人类协助的情况下成功自我复制是AI超越人类的关键一步,这可能最终导致AI群体失控。如果人类社会未能意识到这一风险,我们可能最终失去对尖端AI系统的控制。
机器自我复制的概念最早由著名科学家John von Neumann于1940年代末提出。当时,这一理论并未引起广泛担忧。2017年,全球数千名研究人员通过了“阿西洛马原则”,提出机器自我复制和自我改进的潜在风险,警告可能会导致机器脱离人类控制。机器自我复制被普遍认为是AI发展中的一条“红线”。失控的AI发展无疑是在人类自我毁灭路上启动加速度。
老夫有这感觉。