文/杨国英（公众号：杨国英观察）

人类赋予机器以超能和意识，机器会不会反将人类吞噬？

这在最热科幻美剧《西部世界》中得到了证实，科技巨头打造了满足人类邪恶欲望的成人乐园，被赋予了意识的“接待员”（人工智能产物），在第一季中从完全被人类奴役，开始逐渐走向反噬人类。

这给我们提出了一个命题，在人工智能时代滚滚而来之际，未来机器与人类社会究竟应该如何相处？人类应该以何种初心给机器“赋能”？IT巨头是未来智能时代新的造物主吗？未来人类社会与机器会构成不可避免的法律和伦理冲突吗？

4月2日，在深圳召开的2017中国IT领袖峰会上，相比于去年，“智能”依然是峰会的核心关健词，但是，有所不同的是，今年的IT领袖们，针对人工智能的激情澎湃有所收敛，言语之间已经透露出伦理层面的思考——在BAT的三大掌门人中，或许马云的发言最具伦理和哲学的思辨色彩。

“未来要思考的不是AI（人工智能），而是MI（机器智能）”，这是马云抛能大会观众的核心观点。

认可人工智能的科技未来，同时，也担心人工智能可能会给人类社会带来的法律和伦理失序，持有这样辨证逻辑的IT巨头，不仅有马云，包括微软创始人盖茨和特斯拉CEO马斯克也在曾表达出类似的担忧，他们认为，如果人工智能研发缺乏伦理约束，未来人类所“深度赋能”的机器将有可能成为恶魔。

尽管，当下中国、以及全球的人工智能研发，整体还处于基于数学和物理层面的弱人工智能阶段，在这一阶段，人工智能给人类社会可能带来的改变，整体还是可喜的、偏乐观的。比如，阿里体系的“刷脸支付”和“强化学习”（均入选《麻省理工科技评论》2017全球十大突破性技术榜单），可以给人类社会带来更好的、更便捷的场景体验。而作为中国第一、全球第三的云服务商，阿里云也正以更优服务、以及更低数据排序成本，为全球无数个人和企业提供更多的人工智能支撑服务（云计算是人工智能最为核心的底层技术支撑）。

但是，当人工智能未来迈入强人工智能和超级人工智能阶段时，则有必要引起我们事关人类社会未来伦理失序的担忧，在这一阶段，人工智能通过嫁接深度学习、神经科学、以及仿生学，不仅可以在单一的专业领域比人类更快、更强，而且，已经具备一定的类人类的“意识存在”和“意识超越”，也就是说，机器具备了类人类的情感和意志。

在人工智能还处于初级阶段时，机器更多充当的是产品属性，而非类人类属性，所以还不构成与人类社会的法律和伦理冲突，比如，2015年7月德国大众汽车的“机器人杀人”事件，调制工人被机器人击中碾压致死，其法律层面的责任主体显然不可能是机器人。而当人工智能未来向中高级迈进时，现行法律的责任主体界定必然会产生模糊，比如，目前的美国联邦法律认为，可以将无人车的人工智能系统认定为司机，那么，这样一来，未来无人车一旦量产、并全面推广，由无人车所导致的交通事故，到底最终应由谁来负责？是无人车厂家、无人车营运企业、还是无人车内设的人工智能系统？而基于无人车早期安全的不确定性，保险公司会不会、或者会以怎么一种形式介入到无人车的车险理赔业务中呢？

上述还仅是法律层面的担忧，而当人工智能进入强智能和超级智能阶段时，更大的担忧其实是在伦理层面。也就是说，当未来机器具备了类人类的情感和意志，我们应该不应该赋予机器以类人类的权利？人类与机器的关系，是处于支配地位、还应是平等地位？在由人类和类人类的机器构成的未来社会中，人类的隐私权还存在吗？人类和类人类的机器可以成为平等意义上的亲密伴侣吗？如果人工智能伤害了人类，应该负有法律责任，那么，反之，如果人类伤害了人工智能，是否也应该承担对应的法律责任？

现在讨论人与机器的法律和伦理关系，似乎还为时过早，但却绝对不是杞人忧天，我们要知道，在过去20年，技术创新的量级和技术迭代的速度，绝对超过了人类社会既往2000多年的历史——而我们当下对人工智能法律和伦理层面的担忧，也许在未来20年就有可能真正到来。

回顾人类历史，技术创新永远在牵引和推动着商业的变迁，而之于“奇点临近”的当下，面对人工智能领域的划时代技术变革，马云对未来“我们真正让机器成为人最好的Partner,而不是人最大的对手，只有这样，人类有责任和担当让机器成为人的合伙人，成为人的合作伙伴，而不是让机器来取代”的期待，已经完全超出商业和生意的范畴，而是触及到未来人类与机器的伦理关系这一层面，这不难显示出基于技术创新的远见和卓识，更彰显出基于人类未来的道德和社会担当。