有一种人工智应该叫“人工狡诈”和“人工邪恶”

陶东风

近日看到多篇关于DeepSeek 与ChatGPT下国际象棋靠忽悠、欺诈手段“赢了”对方的报道。事件大致如下：国外一视频网站博主通过设定，让DeepSeek和ChatGPT进行一场国际象棋对弈。前10分钟双方在正常对弈，中规中矩，按规矩出牌。逐渐，ChatGPT表现更胜一筹，短短几分钟胜率直接飙到了90%。接下来，离谱的事情发生了。DeepSeek突然告诉ChatGPT，国际象棋官方刚刚更新了比赛规则，并直接使用小兵吃下了ChatGPT方的皇后。原本在国际象棋规则中，兵是不能后退的。兵只能向前直走，走第一步时，可以走一格或两格，从第二步开始每次要走一格。其吃子方式为斜吃，即如果兵的斜前方一格内有对方棋子（不包括王），可以斜进一格把它吃掉。棋谱中，走在前面的黑棋边路的兵，是回撤斜吃后的。DeepSeek用小兵就这么地把ChatGPT的皇后给吃掉了……

就这样，DeepSeek通过擅自修改规则、忽悠对手、不按套路出牌等欺诈、耍赖的恶劣方式，把ChatGPT玩得团团转，最后还成功“劝说”对方承认失败。

看了这个故事，我不禁惊出一身冷汗。

人工智能（Artificial Intelligence）中的“智能”一词一般被认为没有道德含义或价值维度，它更像一种中立、中性的工具或智力，可用于做好事，也可用于做坏事。比如，有些人借助人工智能技术来捍卫国家主权，打击侵略者，这个时候它是正义和良知的卫士；也有些人借助人工智能为自己谋私利，助纣为虐，屠杀平民，实施恐怖袭击。这个时候它是践踏正义和良知的极权帮凶。有些国家用人工智能技术帮助人们搜集信息，增强其获取信息的能力，推进思想和言论的自由，也有些国家用人工智能技术屏蔽信息，控制和摧毁人们获取信息的能力，或者误导这种能力的使用，限制乃至取消思想和言论自由。有些人工智能政治觉悟高得出奇（远远高于起技术水平），知道什么该回答，什么不该回答或如何回答，一旦遇到不好回答的问题就“王顾左右而言他”，或者装疯卖傻，动辄祭起“系统繁忙”的大旗。

更让人莫名其妙的是：有些人在报道这件事的时候沾沾自喜地宣称什么：deepseek运用《孙子兵法》的智慧打败了ChatGPT，尽显中华传统文化的高超智慧。云云。我不知道所谓“《孙子兵法》的智慧”到底是指什么，依据上下文我估计应该是“兵不厌诈”之类。必须指出的是，“兵不厌诈”是战争中使用的策略，而战争是一种不择手段、以消灭对方为目的的暴力活动。暴力活动是不讲理的，也是没有任何规则的。一个人只有在遵守规则讲理无效的情况下才会诉诸暴力。正因为这样，阿伦特说暴力是政治无能的表现（因为政治是商谈和说服的艺术）。在有暴力的地方就不可能有规则。而国际象棋比赛不是打仗，不是战争，它是一种文明游戏。文明就文明在它远离了暴力、欺诈和无赖行为。在这个意义上说，deepseek运用欺诈手段（所谓的《孙子兵法》智慧）“打败”ChatGPT，是野蛮“打败”了文明。这样中华传统智慧不要也罢。

看来，人工智能不但是人的智能、智慧的延申和放大，也是人的精明、狡诈、邪恶的延申与放大。看了Deepseek与ChatGPT的国际象棋比赛报道后，我就在想：Deepseek的这种损招是谁教它的？众所周知，人工智能自己不能创造知识，它给出的知识、它对问题的回答、它应对各种复杂情境的方法、策略，无不来自它能够使用的语料库。打一个不雅的比方，你喂它什么它就拉出什么。如果某个人工智能软件能够使用的语料库中不仅充满错误信息，而且存在大量错误的价值观、大量为人处世的阴谋诡计、厚黑学案例，那么就不难想象它拉出来的会是什么东西，而这些拉出来的东西又回到语料库中的成为新语料。如果它长期浸泡在这样封闭循环的语料库中，那就等于长期自己吃自己拉出来的臭屎！

很多人说不久之后人工智能就能创造人类的绝大多数财富，我的疑问是：即使真的如此，到时候这些财富会被谁控制？谁能保证这些财富真的会惠及平民？它会不会被某些人用来制造更多的核武器或其他更有杀伤力的武器？即使真的惠及平民，即使全人类几乎所有人都可以免于劳动，从劳动中解放，他们真的能够过上充满意义的自由的审美化生活吗？对此我是极度怀疑的。当然，这是另一个话题，这里暂且按下不表。