加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

为什么阿西莫夫的机器人三定律不能保护我们

(2015-01-12 15:31:41)
标签:

杂谈

来源:i09
翻译:张文竹

http://27.98.208.189/wp-content/uploads/2015/01/uoood15r743ztvdjoidr.jpg

自阿西莫夫提出著名的“机器人三定律”——用以保证机器人友善待人,已经过去很多年了。虽然最早这只是阿西莫夫著名科幻小说的文学创作。然而,还是有很多人奖次定律看作是能使我们免于机器末日的方案。是事实,我们采访的一些专业人士对这所谓的“保障”还是遗憾的说:NO!

首先我们来看看,阿西莫夫最早是于1942年在其短篇小说《Runaround》里首次提及三定律:

法则一:机器人不得伤害人类,或坐视人类受到伤害

法则二:除非违背第一法则,机器人必须服从人类的命令

法则三:在不违背第一及第二法则下,机器人必须保护自己

但在1985年,《机器人与帝国》这本书中,阿西莫夫将三大法则扩张为四大法则(也称第零法则):机器人不得伤害人类整体,或坐视人类整体受到伤害。

http://27.98.208.189/wp-content/uploads/2015/01/paimky6f28caj6ezpxmf.jpg

在阿西莫夫的科幻世界中,这些规则被纳入几乎所有智能机器人中。这些规则不是单纯的建议或执导方针,是被嵌入到机器人的行为支配软件中。更为重要的是,这些规则在编写或修订中是不能被绕过的。

当然,如果你认为所谓的“规则”是完美的,那就大错特错了。专业人士们例举了三定律的几大缺陷:

1.内在的对抗性(天生树敌)

2.根据有缺陷的道德框架

3.研究人员拒绝

4.甚至在科幻文学中也有的问题

其实,三大定律只是存在于科幻小说里的乐趣所在,非要刨根问底的话……即使未来的某一天我们真会遭受AI所带来的生存威胁,但是世界上有那么多“专业人士”的存在,我们还是不要太过操心。简单的享受科幻文学所带来的乐趣岂不更好?

原文:http://io9.com/why-asimovs-three-laws-of-robotics-cant-protect-us-1553665410
转载请注明出处

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有