加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

机器人是否也有“道德标准”?

(2015-07-25 15:29:12)
标签:

杂谈

开篇语

有媒体报道:德国某工厂一名22岁的外包员工遭遇机器人意外伤害而身亡。这样骇人听闻的事件一般是科幻作家对机器人的担忧和想象,难道科幻真的会变成现实!机器人有没有“道德标准”的约束?

机器人是否也有“道德标准”?

1机器人时代的到来


当机器人时代悄然而来,许多科幻作品都显露出人类对生存前景的迷惘与忧虑:一旦机器人变成人的敌人,脱离了人的控制,是否会反过来伤害人类?1926年的美国,出现了一部影响深远的科幻电影《大都会》,它向人们描绘了一个被机器人统治的未来城市。


在随后的几十年中,这种忧虑犹如一片阴云,几乎左右了机器人科幻的创作主题,并潜移默化地影响着公众的心理。这种状况,被当时的《惊人科幻小说》杂志主编约翰·坎贝尔和美国著名科幻作家艾萨克·阿西莫夫所扭转。

机器人是否也有“道德标准”?

2阿西莫夫和他的“紧箍咒”


受坎贝尔的启发,阿西莫夫想到制定“机器人学三大法则”的可能性,但直到1941年他开始创作短篇小说《环舞》时,才第一次完整、清晰地表述了这三大法则:


(1)机器人不能伤害人,也不能任凭人类受到伤害而袖手旁观。

(2)机器人必须服从人类的命令,除非该命令与法则(1)相抵触。

(3)机器人必须保护其自身,除非该命令与法则(1)、(2)相抵触。


这三条定律明确规定了人与机器人的主从关系和相互制约关系,几十年来已成为公认的研制和使用机器人必须遵循的基本准则。它们被编成程序,输入机器人的“大脑”之中。 


阿西莫夫在晚年所写的科幻小说《机器人与帝国》中,又进一步提出超越“机器人学三大法则”的第四条法则,即“零规则”:机器人不得伤害人类,或坐视人类受到伤害而袖手旁观。这第四法则似乎与第一法则并无差别,但第一法则中提到的是作为个体的“人”(ahuman),而第四法则提到的是“人类”(humanity)。这从宏观上规定了机器人与人类的关系。

机器人是否也有“道德标准”?

3“法则”演绎出的机器人科幻


机器人学法则体系构成了支配机器人行为的一套“道德标准”,从而给“机器人社会”赋予了新的伦理。阿西莫夫通过这些法则的相互作用,构思出一系列情节紧张、妙趣横生的短篇小说,把他的每一个机器人故事中的主角推入进退维艰的境地。


如小说《环舞》中的机器人被派往对人类有害的环境中采硒,结果陷入两难:保护自身的安全(第三法则)与执行人下达的命令(第二法则)在这一特定形势下发生抵触,机器人只得像跳环舞一样绕着硒湖转圈。宇航员鲍威尔为打破这个“死循环”,勇敢地将自己置身于危险的太阳射线之中。生死攸关之际,第一法则对机器人起了决定性的作用。


在小说《证据》中,人们怀疑竞选市长的地方检查官拜厄利是机器人,其竞选对手想利用“三大法则”考验“他”。这时候有人跳出来当众向拜厄利挑衅,表示不相信“他”具有人性时,拜厄利愤怒地以耳光作为回敬。依第一法则推断,“他”的确是个真人了。但机器人心理学家卡尔文博士事后却指出:还存在一种情况,假如被打者也是机器人的话,那么打人者仍然有可能是机器人(因为此举并没有违反第一法则)。在阿西莫夫的机器人科幻作品中,新奇大胆的幻想与巧妙、严密的推理常常得到有机结合。其后他创作的《钢城》《裸日》《镜像》等机器人科幻名篇,更是将这种优势发挥到一个新的高度。


4法则”漏洞“成为科幻契机


不过,“机器人三大法则”也是有“漏洞”的。正因如此,阿西莫夫和他的后继者才有洞可钻。在科幻小说《骗子》中,机器人厄比为了避免人类受到心理伤害,不断说出“善意的谎言”来迎合人类的自尊心和虚荣心,却没想到欺骗带来的伤害更大。这就是阿西莫夫在机器人对人类“指令”的判断上设了玄机。


机器人是否也有“道德标准”?


在阿西莫夫1976年发表的《活了二百岁的人》中,他还赋予机器人主角最为奇特的“个性”:像人一样思考。后来,这个人工智能机器人宁愿选择“自杀”,也要获取人类对他“人”的身份的认可。这无疑是科幻史上以人工智能为题材的经典之作。


也许未来我们还会有许多机器人题材的科幻创作,但是希望在现实,我们的人工智能机器人会朝着有益人类发展的方向,为人类的科学事业做出贡献。


如果想听到更多跟科幻有关的有趣内容,周日就来中国科技馆听科学讲坛·《知识就是力量》系列讲座之《漫游科幻将来时——科学与幻想的碰撞》吧!

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有