编者按：如今的网络不再只是由冷冰冰的计算机组成，人类也是参与其中，形成了人与计算机之间的交互。美国卡耐基梅隆大学计算机系主任Jeannette Wing教授在10底于天津举行的“21世纪的计算大会”上作题为“人机之间的信任理论”的主题演讲，与现场观众共同探讨人机交互中的存在安全性问题，并分享了她多年来在信任理论方面研究的成果。 

              

 

 

 

以下文稿来自现场翻译人员速记，仅供参考：

 

首先，特别感谢微软亚洲研究院、南开大学和天津大学举办此次21世纪的计算大会！同时，我也非常荣幸能够来到美丽的天津！今天的天气非常好，我非常期待为在座的各位做这个演讲，希望和你们能够有更多的交流。接下来的演讲的题目是“人机之间的信任理论”，希望大家能够提出尽可能多的问题。

 

一．引入“人机之间的信任理论”(a Theory of Trust in Networks of Humans and Computers)

其实目前我们都面临着一个最基本的问题：安全性的问题，这是整个社会所面临的一个挑战。今年大会的主题是“计算，自然而然！”，我们必须意识到今天的计算机和以前的计算机是不一样的，目前的计算机是由人和计算机的网络组成的。我们现在所面临的是人的网络和计算机的网络。我们需要共同来解决问题，这是任何一方都无法独立实现的。面对目前的计算机，我们可能会疑问样计算机的网络能够实现什么样的计算？但是这里我却要提一个不同的问题：作为一个人类，我如何信任我通过互联网所获取到的信息？这是一个非常常见的情况。我们打开计算机，查询一些信息，并阅读屏幕显示的信息。我们为什么要信任在网络上显示的信息？这就是一个问题。我想把这个问题很好地分解开来，其中包括很多的问题，很多的计算机科学家还未解答和解决的问题。但是，我演讲最重要的部分不光是谈计算机科学，最重要的部分是回答这个问题。为了回答这个问题，我们就必须引入社会信任的、行为信任的、经济信任的内容，我们才能更好地了解它。计算要可信，要定义设备、电脑和网络之间的关系。行为信任定义的则是人、组织之间的信任关系。而人、计算机形成的网络信任理论，必须包括以上谈到的这两种信任。

 

作为一个人类，我如何能够信任我通过互联网读到的信息？在这里我把这个信息具体化到我从互联网上获得的消息，我接收的即时信息。这可能是大家非常熟悉的，比如说接收即时信息。下面我把这个问题分解成为两个问题。第一，我接收信息的通信渠道是否是安全的？第二，我如何能够信任我接收信息的发送方？就是我如何能够信任那个编写这个网页内容的制作人。

                        
首先，我们来看一下简单的通信模式。我们有一个信息发送方和接收方。那么，接收方是在我们的左手边，而发送方是右边。假设我们的通信渠道是安全的、可用的、专用的。那么，我们看到发送和接收方的电脑都是可信任的，同时我们也假设进行通信的设备，它们的接口是能够抗窃听、抗渗透的。所以，第一个问题，我就已经解答了，假设这个通信渠道是安全的。我刚才提出这个问题了，就延伸到第二个问题，我如何信任接收到的信息发送方，这将是我主要谈的问题。

  

这个主要的问题我们需要进一步钻研，直到我们相信发送方的行动。发送是一个人或者一个机构，我是接收方，我为什么要提出这些问题？原因就是里面应该有一些价值，作为接收方来说，可以关注和发送方之间的互动，并开始做一些互动的事情，而且愿意承担成本上的一些风险，否则的话，我可能不跟任何人互动，也不会相信任何人。所以，这里应该有接收获得的价值跟发送方发生的互动，这个价值应该是超过我的成本，这是这张幻灯片表现的主要内容。

 

特别强调的是，信任发送方行动的价值是什么？发送方值得我信任，双方都获得价值，我获得信息，发送方从我们这里点击可以获利。如果接收方发现发送方是不值得信赖的，那么所获得的价值也会重于成本。所以，接收方有更高的风险，但是需要接受这一点，因为我认为我还是可以得到一些好信息的。最后，接收方如果怀疑发送方不值得信赖，就不会参与进去，也没有什么价值的交换，这是一种方法，可以让我们去思考，这就是信任理论底层的原因。

 

二．计算信任(Computational Trust)

我们一开始讲的是关于计算信任，那么如何构建对计算元素系统的信任，从而有行为上的信任。我们可以看到，即使把我们工作做得尽可能最好，能够保证计算上的信任，我们还是需要依赖于其他的东西来信任发送方。这种计算信任的元素，包括隔离、更正、恢复，正是我们做计算机科学的科学家们和公司要探讨的。所谓隔离（Isolation），接收方隔离于任何发送方之外，不管是什么样的人，什么样的信息，我们不能接收任何的信息，我们就不能参与任何的活动。我们需要有独立的验证，发送方发送一些代码的验证；有些时候，有些信息的一部分可能是编码的，我们想验证代码的属性，我们计算机科学家经常会做这样的验证。第三点，就是我们说的恢复，也许我们收到一个信息，然后我们的状态很坏，我们需要从比较坏的心态恢复成好的心态，我们作为计算机科学家，应该有这样的技术，能够有默认的恢复。

 

我们看到所有的元素，都是在建立计算的信任，但这还是远远不够的。先来看第一个，就是隔离，隔离于发送方之外。有一种办法也许可以能够把我们跟发送方隔离开，就是要来识别任何一个我所收到的信息，我们要能够验证我们接收的任何信息，它的属性、行为、代码在这个里面，我们就不需要有对发送方所谓的信任了。

 

我们再来看一下隔离，隔离于任何发送方之外是否可能？包括一些暗文或者部分的代码进入验证，现在任意的代码是不能被验证的。比如说我刚才收到的编码，不能够被验证，但是输入却是可以被验证的。这个是否有效呢？有时候并不一定很有效。假设用这些输入进行有效的验证，是否很现实呢？这其实还是合理的。我们能够发一个加密的代码，在这样的服务器上有很多的搜索，有大量的数据库，还有各个页数，然后再发回来，接收方可以进行核对，我们可以这样做。但是做起来不太现实，因为这样的技术依赖于我们很多同态的加密，这种同态的加密目前还不是很现实，我们希望未来能够现实一些。

假设实施隔离非常有效，也是可行的，可扩展的。我们在70年代末就有了这样一些安全的模型。它们能让我们定义如何去检查某些条件，包括输入的信息，就是按照安全的模型去做。问题就是目前的互联网，并不是所有的机构实体或者个人都能买一个单一的安全模型，所以并没有单一的安全模型适合所有的问题。所以，现在的问题就是从发送方那里隔离出来很困难，发送者提供一些证据，他们是值得信任的。我们需要跟发送方互动，他们要承诺他们发过的一些信息，就是发过的一些证据，能够证明他们的信息是得到接收者的信任的。

 

下面举一个最难的例子，如果这个信息里包含一个代码怎么办？我们询问他们如何验证这个代码，就是涉及到某些属性的验证。如果我们完全信任发送方的话，就不需要隔离开来，而且都是被接收的。但是你们看到，我们还是不可以这样做，但是这是很现实的。当然也并不很现实，包括验证、可扩展，涉及到一些小的配置，或者限制在某些属性上，所以可以把一个证据传过去，可以证明他这个代码跟他的技术规范应该相一致。然后接收方可以核对这样的证明，但是对证明这个代码来说，经常只是限制在某些属性上的证明。

                        
另外一个问题，进一步扩展我们使用的技术。做这样的一个正确的证明，经常都是通过人类的力量，需要大量的人工，需要互动的证明。真正的问题是即使我们可以做到，能够验证代码，能够提供这个证据或者证明这个代码是正确的。有时候这个代码，还有输入的参数，在这样一些数据上，就是某个地方，某个人，或者某个事情，会延伸到参数上，证明这个参数。我们还是要依赖于某个人，或者某个事情去做。

 

那么，今天我们如何去做呢？我们现在依赖于声誉的服务，还有外包的可信赖关系，可以去了解这个人是否值得你信任。让你了解到底会出现什么情况，即我下面要讲的行为上的信任。我们要提供一种完整的和无法拒绝的信任。也许接收方可以从发送方的封面上知道是否可以信任的情况。在这种情况下，我们就得到了一个叫输入的信息，我们会进到一种非常坏的状态里，我们发现它是一种坏的状态，我们需要恢复到好的状态。这是否可行？是否能现实？是否可扩展？所有的这些似乎是一个挑战。但并不一定都是这个情况，它对于某些问题是很好的挑战。比如说有些管理是关于容错，还有需要搞清楚数据库是怎么工作的。

 

然而，还有一些情况是不可能重新恢复的。举一个标准的案例，你到一个ATM机上取钱，把钱取出来，就不能再把钱返回去。就像我们的I/O一样，这些情况不能反着去做。我们现在面临一个情况，可以从发送方那里隔离出来，我们有足够的办法提供可信赖的证据，我们也不能从这样的状态当中恢复过来。假设我们有一些不好的输入，我们可以惩罚那个发送方。如果我们想有威慑的作用，对他们有惩罚，有惩罚就有问责，意味着惩罚发送方的话，就是要知道要罚谁，就是追究谁的责任。我们还有足够的惩罚震慑他，或者问责谁，惩罚谁，这是一种新的理念。所谓的震慑力是非常现实和可扩展的，这个里面并不总是这种情况，我们真正影响到震慑那些人类的一些错误的行为，这个里面又涉及到一些问题，会有一些法律上的问题，已经争论了几个世纪了。

我总结一下目前所谓从名义角度来说的信任行为，我们不能从发送方那里隔离出来，也不能有方法提供正确的证明，也不能从发送方当中恢复过来，我们没有完整的方法震慑那些发布坏消息的发送者。但是，这看起来，也就是目前互联网的现状。所以是否有一种办法，我们可以能够保证我们是安全的，相信这个发送方，这就是一些新的理念结合了我们一些所谓来自于社会的科学，以及行为科学上的行为信任。

 

看一下我们目前的信任理论。我们有加密数，有一些验证，还有运算或者容错的办法。我们用很多年的时间提供这些因素(在计算方面的信任)，也包括一些办法来做这样的一些隔离，或者证明一些正确的编程，还可以提供信任的证据来恢复。我们需要很多，我们还需要人类之间信任的机制。

 

三．行为信任(Behavioral Trust)

社会科学研究这个问题已经研究几十年了，它被称为行为信任。到底行为信任是什么意思呢？我们有成百上千的文章，都是出版涉及到这些内容，但并不完全是计算机科学学科，而是经济社会学科的。我们作为计算机科学家，应该走出去，不仅是我们了解的计算安全，还有寻求其他的科学学科所发展起来的关于信任的理论。这就是我下面跟大家解释的部分，所以有一种概念叫做信任的行为，特别具体，我们会举一些例子。

 

所谓行为信任，它会有一些他们的信念和偏好。下面让我们来看一个单一的模型，它摘自一篇文章。这里面发送方是被信任方，可以被银行、谷歌、亚马逊、微软等信任的，相信这个银行，可以去存钱，也可以把所有的信息放到谷歌上。这个发送方就是被信任者，我们发一些银行客户的信息等，这里的模型是基于叫做所谓一枪致命的做法。什么叫一枪致命的游戏呢？这里有一个经销商，还有一个发送方，还有一个接收方。经销商给发送方和接收方各10美元，这个游戏就像我作为一个接收方，我得到10美元。如果再把我的10美元发送到发送方那边，然后乘上4，就是意味着发送方投入40美元，就是这种切断。如果我们能够合作，有一种双赢的策略存在。如果我们能够协作，我把我的10美元发过去，然后经销商把这部分乘上4，然后发送方得到40美元的话，然后他的职责就是把所有的钱，来自于我和经销商方面的钱再除以2，把另外一半再发回给我。这种情况下，发送方来自于经销商的10美元和接收方的40美元，除以2就是25美元，发送方本着合作的态度，再发回25美元。所以我给发送方发送了10美元，又反馈回来25美元。作为接收方，我得到25美元，等于多得了15美元。然后这个发送方自己留了25美元，同时也多得了15美元，这是从经销商那里得到的，这是一种双赢的情况。

 

当然，还有其他的案例存在。比如说我可以把我这个10美元发过去，然后发送方可以决定把我这10美元自己留着，我就意味着我作为接收方就失去10美元。同时发送方得到50美元，他多得了40美元。当然这也是一种情况，虽然不太好。

 

第三种情况，我可以决定我不想玩这个游戏了，所以我的10美元，我自己留着，我不把任何钱发出去。然后发送方得他的10美元，也没有发生什么事情。这种情况下，从我这里不把我的10美元发给发送方，我的心里有一种想法就是我不相信这个发送方，没有信任，也就不能获得利益。

 

同样的事情也是一样的，在发送方这里没有信任就不会得到更多的利益，这个例子就是所谓一枪致命的办法。用于在我们的空间，还有经济社会科学领域，能够真正了解我们人类的行为方式，用于某种激励形式的行为，这是非常简单的例子。主要是给你们展示一下，到底行为信任有什么意义。

 

下面一部分我要讲的是关于实验方面的。我来展示一种可能获得的价值的情况，就是接收方和发送方之间如何能够获得价值，怎么样进行互动。所以一个是被信任者，一个是信任者，或者他们在执行这样的协议之前，他们就已经有这样的协作，已经获得了这个回报。如果这个信任方不相信被信任方的话，他们就可以得到这一些回报。所以被信任者会有一定的机制来保护信任者。

 

当然了，第三种情况，如果信任者怀疑被信任者的话，他们就不会参与这个活动了，这就没有任何有价值上的内容了。这完全和我刚才所介绍的发送方和接收方在网络之间的界限是一样的。所以我们看到这种一枪决定胜负的游戏，就需要我们能够挑出这样的行为方式之间的信任因素。也就是说我们谈到的信念，还有偏好，具有两种类型的偏好。

 

我将为大家介绍一下我们的实验，如何把这两种偏好区分出来。首先我们看到这个经销商他有12种惩罚的方法，给接收方和发送方。同时，也可以让接收方去惩罚发送方，当然让接收方进行惩罚是有一定的成本，比如说信息发送方欺骗了我，那么这个时候就发出一个惩罚的单位，但是接收方要付出两个美元的成本，所以这就是我们的成本结构。也就是说接收方的成本是一美元，发送方是两美元的成本。

 

第三种方式，就是惩罚是象征性的，双方其实都没有成本发生，都不需要花钱。最后我们看到这就是我们所测度的行为，大部分的接收方都会像这个交易商，也就是这个中间的执行方支付成本，去惩罚发送方。我们看到有14个对象，其中12个愿意支付出成本，在成本结构中惩罚发送方。所有14个人都希望能够免费地惩罚发送方，只有3个人觉得没有必要惩罚发送方。

 

下面我为大家再介绍另外一个案例，也是我们这个实验的一部分。那就是区分两种类型的偏好。一个是倾向于风险型的，另外一种是避免背叛型，或者厌恶背叛型的。对参与实验的人，我们监控了他们的人脑扫描图。我们发觉人脑的一部分，实际上跟我们所说的这样一种回报满足感相关。我们发觉接收方发现信息发送方被惩罚的时候，会有一种满意感产生，这叫做厌恶避免背叛的这样一种偏好。之所以在这个实验和理论中，这样的一个人类实验的行为理论中，很多经济学家、社会学家都研究这个领域，是因为想区别叫做避免风险和避免背叛两种不同的偏好。

 

我们做的第四个实验，就是当信息发送方不是一个人，而是一个电脑的时候，那么交易方就会告诉这个接收方，你没有获得你的钱，是因为这是一个随机的流程，这是被随机决定的，是否要把你的钱退回来。在这种情况之下，接收方并不觉得自己有必要去惩罚一台电脑，接收方并没有这样的一种对机器惩罚的需求，而对于人来说，如果是人欺骗他们的话，他们就觉得有这种必要去惩罚这个人。所以，在第四个实验中，几乎没有一种人的意愿要去惩罚机器，因为这样的惩罚之后获得的满足感是几乎没有的。因为人的大脑是由所分泌的化学物质控制的。其实，当我读这个方面的文献时，我觉得非常有意思，有很多的社会科学家，实际上对人做了这样的实验。他们是通过化学的方式改变人类的思维和一种想法。那么到底是避免风险还是避免背叛。

 

下面我总结一下我们实验的结果。事实上，接收方是愿意承担成本去惩罚发送方。而这种惩罚的金额，这个惩罚成本为0的情况下，金额会更高。而信任方，就是接收方，他会获得这种满足感。这种满足感是和被信任方或者发送方受到惩罚的程度成正比的。因此，我们有这样的一种人类信任的理论，根据人们这样的一种信仰和偏好去决定。有两种偏好，一种是社会性的偏好，一种是信任的偏好。通常是我们所说的概念性，可能15个人当中有1个人不愿意按照这个规则去做。当人们知道发送方是一个机器的时候，这个时候避免风险的程度就比较低了。所以我们看到这种社会性的偏好，就是避免背叛，当他们知道欺骗方是一个人的话，那么这个时候接收方的惩罚意愿是非常高的。所以，这是我们对信任的一种全新的思维，在人机的世界中。

 

当然，不能只是看计算机科学，我们还需要研究其他的学科，这些学科在几十年来一直在研究人和机器的信任问题。我们有这样一个概念，也就是接收发送方之间的信任，还有两种偏好，是风险型的，还是背叛型的，同时如何为人和计算机网络所支持，我们如何把所有这些放入到我们计算的思维。在这种计算基础设施和机制中，去支持所有，包括信仰、风险避免和背叛避免的一些规则在内，所以这就是我们的重点。我们有一些既能够提供值得信任的证据。这和人们对于信息发送方的可信度，还有自己的偏好都是相关的。真正最新的一个观点，也就是在社会学和计算机科学方面都是最新的一点，就是安全和信任之间，到底在计算机制和计算基础设施方面应该如何做，才能支持我们找到那些可能的背叛行为，并且惩罚那些信息发送方；或者是避免自己被背叛；或者是执行问责制，否则的话，我们就不知道应该惩罚谁。

 

因此，在实践中，有很多非常实际的方式让我们去验证，但是从计算机科学角度来说，至少我们没有一系列非常认真的方式，来去思考如何进行背叛的规避。所以，我们的建议就是由第三方的服务，但是这些都是一些叫做随机的方法。我们在考虑的是一种更加具有系统性的服务，包括这种背叛规避的一种信任的理论。

 

以前我们会根据以前的信任来建立新的信任关系。比如说信任的第三方，过度性的信任关系或者是代理，未来我们应该是建立一个安全机制，从而促进新的信任关系。我们看到可以做一个类比，就是运输方面的类比。就是我们必须以一种新的方法来研究安全。不是说有坏人有好人这样的一些事情。其实没有一个完全黑白之分，我们应该建立一个经济性的生态系统，在人际世界中，必须很好地理解它。安全会给我们带来一些新的机会价值。我们通过互联网互动，能够带来新的经济价值。我们的目标就是能够去寻找那些可以创造新的价值的安全机制，而不仅仅是止损。我就讲到这里，谢谢！