近日，美国硅谷的科学家们在一次探讨人工智能和人类未来的会议上预言，信息技术的发展最终将导致比它的制造者人类更聪明的智能机器的出现。他们说，如果这种情况发生，它将以无法想像的方式改变人类存在的意义。

　　这个世界会变成什么样子？

　　这还是个由人类主宰的世界吗？

　　人类制造出这种智能机器，反过来可能会被它们控制？

　　原来在科幻片中出现的场景将在未来的现实世界出现吗？ 

    据美联社９日报道，在由人工智能“奇点”研究所主办的这次会议上，科学家们警告说，现在是制订道德指导原则以保证这些进步会帮助人类而不是危害人类的时候了。

    有科学家认为，在黑洞的中心有一个称为“奇点”的点。物理学的定律在这个地方不再起作用。美国加利福尼亚的数学家和科幻小说家维尔诺·温格首先使用“奇点”这个术语来描绘人工智能研究领域的重要技术转变。

    人工智能“奇点”研究所的创立者之一埃利泽·尤德科夫斯基将他的研究集中在“友好人工智能”的发展方面。他说，他最担心的情况是，一个才华横溢的发明者创造出一个对人类怀有敌意、可以自我编程但却没有道德观念的智能机器。

    人工智能“奇点”研究所主任雷·库日韦尔在他２００５年发表的题为《“奇点”在靠近》的书中说，以几何级数速度发展的技术进步使比人类更聪明的智能机器的出现成为未来合理的结果。他甚至确定了一个日期：２０２９年。

    报道说，大部分预言家往往援引过去５０多年里计算机技术的急速进步为证据。但一些批评家嘲笑他们的预测更多地建立在科幻小说而不是科学的基础上，并且可能永远不会变成现实。