人工智能如何理解人类意图

2023-03-09 作者埃德·根特

英国《新科学家》周刊 刊登《具有社交能力的AI，开始理解人类的意图》：

人工智能（AI）已进入我们的生活。

在象棋、围棋或预测蛋白质结构等方面，计算机的能力远超人类。

但人类还拥有一项它们没有掌握的能力：心理分析。

人类拥有推断他人的能力，可以预见他人和自身行为的后果。

AI想变得更有用，就要建立类似的直觉能力。

这比训练一位国际象棋大师难得多。人类行为的不确定性，灵活的思考，对AI来说很难。

最近的成果表明，ChatGPT背后的AI能理解别人的观点，说明有社交能力的机器、有自我意识的人工智能不是白日梦。

心理学家把理解他人心理的能力称为心智理论。人很小时就拥有推断他人想法的能力。

理解人类

所谓心智理论，包括很多要素，是能力的大集合。

其中最简单的是理解行为背后的动机，而最难的是社交活动。最大的挑战是背景【有人问你要不要跑步，你回答“外面正在下雨”，他们马上就推断出答案是否定的。这需要大量关于跑步、天气和人类喜好的背景知识】。

教AI这些技能，要从最简单的开始。

这并非易事，它涉及的计算与计算机逻辑大相径庭。

人的心理过程无法直接观察到，只能猜测。要改变强化学习的传统技术。

“逆向强化学习”：持续观察某人的行为，慢慢推测他想要干什么。

逆强化学习在分析新数据的同时考虑到之前的知识，以应对不确定性。

目前，大多数机器心智理论依赖简化的场景，即二维世界。

但麻省理工学院2020年把逆强化学习与机器人编程语言结合起来，进入了三维层面。

深度学习

深度学习的神经网络是完全不同的路线。其特点：很少在系统中建立以前的知识，而让它们吸收海量数据来学习经验。

谷歌的“心智理论网络”（NoM-net），可以通过“错误信念测试”。

儿童能理解他人观点可以与自己的观点不同。比如，4岁以下的孩子闭上眼睛就以为自己躲起来了，认为他们看不到你，你就看不到他们。

2019年深度学习AI挑战了捉迷藏游戏：在布满障碍物的3D场景中放入两个智能体：一个捕食者和一个猎物，它们的信息来源只有从环境中获得。捕食者受规则支配试图找到猎物；而猎物受神经网络控制，成功地学会了躲藏。

猎物的成功，在于它会通过捕食者的眼睛看世界。这就是心智理论的根本，能从另一个人的角度来看世界，而不仅是逻辑思考。

构建知识

仅把以前的知识植入AI，会让它依赖我们的局限。

深度学习系统通常是黑匣子——很难破解它们是如何做决定的。

想具有类人性，仅走大数据路线，进行机器学习，是不够的。

以共享的方式构建知识，对人类信任AI并与之沟通至关重要。

战略棋盘游戏《外交》，对AI来说极具挑战性，因为它不光需要有效的沟通，还需要预测其他玩家的意图。

心智理论发展：用“错误信念测试”文本，“投喂”ChatGPT背后的深度学习AI，没经任何特殊训练，AI就达到了9岁儿童的水平。

向机器灌输心智理论，不仅是为了制造更多机器人。也是在制造真正有感情的机器。