美媒：只剩7年！人工智能奇点逼近人类

2023-03-01

奇点——机器智慧超过人类智慧的“无法回头的地步”

技术奇点距离我们可能只有7年。

1.奇点时刻日益临近

机器智慧：使设备可以聪明地与其所处的环境互动和交流的先进运算。

理论计算机科学和人工智能之父，英国数学家艾伦·图灵，在20世纪50年代测试了奇点的可能性。【图灵测试，查明机器是否可以自我思考；测试让人与机器对垒，让系统欺骗我们，使我们相信它是人】

ChatGPT据说已经通过了图灵测试。

机器智慧与人类智慧的区别在于，我们的智慧是不变的，而机器的智慧没有尽头，可以一直增加。

奇点已经零零碎碎地存在，就像一个尚未完成的拼图。在2030年后的某个时候，或许可以到达奇点。

已有的奇点萌芽：在有些游戏里，人类绝对无法胜过机器。

奇点是一个众所周知、难以衡量的概念。

如果人工智能可以用跟人类一样或更好的水平翻译，这时奇点的味道已经很浓了。

网络迷因可能很接近奇点，因为人工智能很难理解网络迷因。【网络迷因，又称“网络爆红”，指某个东西迅速在互联网用户间传播的现象】

2.到达奇点后果难料

凭目前的智慧水平，我们没有脑力来准确预测拥有超级智慧的系统可以做什么。

人工智能是否有恶意？我们自动驾驶汽车，不希望它闯红灯和撞到乘客。但它可能认为穿过红灯和人是及时赶到目的地的最有效的方式。

人工智能研究人员知道，我们无法百分之百地从代码中消除偏差。因此，打造不会犯任何错误的人工智能很有挑战性。

人工智能现在还没有知觉，意味着它还无法像人类那样思考、感知和感觉。

人工智能不过是代码。它也许没有动机反对人类。可一旦它认为人类是某些问题根本原因，可能就很麻烦。

3.如何防止奇点灾难

假如五个人乘坐自动驾驶汽车上路，突然一个人跳到路上，汽车无法停下，就会变成一个简单的数学游戏：1对5。它会撞死这名行人，因为1小于5。

用人工智能开发新冠疫苗，系统知道更多人患新冠会让病毒变异，于是开发适用于所有变种的疫苗变得更困难。因为系统认为，可通过减少人的数量来使病毒不能变异很多。结果，人工智能可能开发出一种会杀死人的疫苗。

这是人类智慧水平可以想到的场景……如果用更高水平的智慧去想，会有数以百万计的类似场景。

这些意外我们无法预测，因为我们不像人工智能那样拥有超级智慧。

我们可以着眼于行为失常机器出现奇点。但如果它到达了无法回头的转折点，就无能为力了。

人工智能的未来有许多未知。专家们正致力于在不出现意外的情况下，收获人工智能的好处。

但是切记，我们真的只有一次做对的机会。