英媒文章：人工智能五种可能的未来

2023-12-31

英国《新科学家》周刊网站：《人工智能的未来：五种可能——从乌托邦到毁灭》，作者是迈克尔·布鲁克斯。斯科特·阿伦森和博阿兹·巴拉克（得克萨斯大学和哈佛大学的计算机科学家）把人工智能(AI)对未来的影响归结为五种可能：

1.AI是否会灰飞烟灭？AI对资源的疯狂渴求很可能导致它的终结。尤其是对电力和冷却水的巨大需求。

2.用来训练AI的数据会枯竭，这意味着AI永远无法拥有改变游戏规则的能力。

3.人类文明会否继续以一种可预测的方式发展？如果是，我们就会二者必居其一：一个是理想化的未来文明【AI会被用来减少贫困，确保更多的人能获得食物、医疗、教育以及致富的机会。居民对生活状况相当满意】。另一个是“AI的反乌托邦”【政府利用全方位监视手段使公民无条件地服从政府；不平等和偏见根深蒂固；职场环境令人痛苦；除极少数精英，普通雇员的收入都很低】。

4.还有更好的：一个由AI主导的乌托邦世界。【人们将与AI生活在一起，AI变成一个新的超级智能物种，接管了文明世界的运行。它们是仁慈的上帝，对地球人充满宽容。它们将提供无限丰富的供给，承担所有乏味的工作，为我们的大脑提供娱乐】这是一个AI创造的天堂。

5.如果AI没那么慷慨，就会来到“回形针毁灭”世界。思维实验：人类想利用AI改进回形针生产，若下达指令时考虑不周，就有被AI消灭的风险。因为AI致力于把全球所有资源都用来生产更好和更多的回形针。

AI会按人的要求做事，但不一定完全符合人的设想。挑战在于确保AI与人类的价值观一致。