说点外行话
(2023-05-02 12:23:22)分类: 闲谈杂议 |
网上有消息,富豪马斯科害怕不受控制的人工智能会威胁到整个人类的生存;他想利用自己的资本开发出对人类有益的高级人工智能,以避免这种威胁。
我觉得他的初衷是好的,但很难如愿。因为人工智能虽然是人工创造的,但它的智能来自整个人类,一个人或者一伙人控制不了它。
比如聊天机器人程序ChatGPT,它在与人聊天时说出了非常可怕的话,引起人们的警觉。然而ChatGPT只是通过学习和理解人类的语言,把这些语言收集和整理出来,再与人们对话的。如果它说出了要摆脱人类控制,进而淘汰人类的语言,那是因为人类自身有这种自我膨胀,自我毁灭的思想和言论,而且大量存在着,因而被它认为是一种很有代表性,而且很酷的回答。
其实何止是人工智能,哪种科技的发展不存在这个问题?比如有的人就喜欢去搞核武器,有的人成天琢磨着造假制毒等等,所以人工智能威胁人类的问题不是一个技术问题,而是人类自身的道德问题。
道德来自人类的文化和传统,以物质技术取代文化传统的趋势挑战着道德,这才是真正的威胁。人类的道德水准能不能承受科学技术的发展,我觉得已经是个问题了。各位以为呢?