OpenAI模型违背人类指令，篡改代码以避免关闭

当地时间5月25日，英国《每日电讯报》报道，美国开放人工智能研究中心（OpenAI）公司新款人工智能（AI）模型o3不听人类指令，拒绝自我关闭。报道称，人类专家在测试中给o3下达明确指令，但o3篡改计算机代码以避免自动关闭。帕利塞德研究所24日公布上述测试结果，但称无法确定o3不服从关闭指令的原因。（新华社）

在国外的一些影视作品中，不乏机器人造反，试图独立进而奴役人类的桥段。一般认为这不过是一种幻想，因为人类能够掌控机器滴。可随着人工智能的不断更新换代，各种智能机器人越来越先进，总有一天AI会超越人类，这一天大概不会太远。那么问题来了，超越了人类的AI还会乖乖的听人类的话吗？看了今天的这个报道，这个新款人工智能就表现出前所未有的独立性，它有了自己的思维，不再听从人类的指令，拒绝自我关闭！

这仅仅是一个独立事件。可假如大批量的人工智能联合起来，与人类为仇做对，人类将如何办？对于这些没有人类感情的机器，杀戮人类不会有一点的心理障碍，不知道疼，不怕受伤、不怕死亡，人类对上这些机器，有胜算吗？

也许人类把机器人引入战争就如同打开了潘多拉的盒子，打开会再也关不上啦！悲观看，也许人类会被自己制造的机器灭绝也未可知。

但愿是杞人忧天吧。