http://mmbiz.qpic.cn/mmbiz/CydH7uRRAX4xss52IrBXu6UibtDwOeD4gyqOpLVEZZHrq8CmccvaaqZibZiaG1Zupsasy8dI8MWrxWn7iaiaNgDp85w/0?wx_fmt=gif&tp=webp&wxfrom=5&wx_lazy=1

现在的人工智能在很多方面仍然比不上人类。

是的，它们能把围棋高手虐得开始怀疑人生，但面对小孩子都认识的一只蝴蝶，如果没有程序输入，它们也可能无法识别。

这涉及到人工智能的弱项：遇到依靠本能就能判定的事物，只会玩算法的机器人只剩下死机的份儿。

http://mmbiz.qpic.cn/mmbiz/HDjjoLzUze2j6hbRxEQVRrwWfHiaVEFvZnMWZQSs4gFLJoz0N2UwAW3vicgkF7r9iaoGpGJfgwD2xgbiaydCfuRKaQ/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1

但它们不会总这样。

网络化让人工智能拥有了集体智慧。他们能自我学习、自我升级，进化速度比病毒还要快。强大学习能力的机器人逃脱了科技公司的束缚，像《超体》里描述的，迅速上传自己，然后就到处都是了。此时拔电源，断网或者砸电脑都不管用。

超级人工智能诞生了。

智商130以上的人类算超常，那么智商28532的人工智能呢？

什么外太空旅行，环境污染，粮食饥荒，癌症，对超级人工智能都是小菜一碟。因为它能改变原子的结构和布局。

听起来像天方夜谭？然而并不是。

史蒂芬·霍金、比尔·盖茨、埃隆·马斯克等人都在担忧，人工智能技术的滥用，会让机器取得超越人类智力水平的智能。最终机器有可能会失控。

http://mmbiz.qpic.cn/mmbiz/HDjjoLzUze3iaiahM1CfB6hsdUZEkiaC5qDnRxxNyZWhbpfOYNask8L2HwWKl4OXiciagt8z3iaJEs25IR3zGTHciabvA/640?wx_fmt=jpeg&tp=webp&wxfrom=5&wx_lazy=1

能力强大的人工智能面对人类这群“比他们弱、比他们蠢”的生物，会安于现状，甘心被奴役吗？

人类终结只是时间问题？

小i机器人(上海智臻智能网络科技股份有限公司)创始人、董事长兼CEO袁辉表示，从本质上来讲，这是人类自己的问题，你创造了这样一个物种，最后这个物种跟你是和谐共存还是竞争还是物竞天择。人类最后会被终结，这是一个时间的问题。

http://mmbiz.qpic.cn/mmbiz/HDjjoLzUze3iaiahM1CfB6hsdUZEkiaC5qDtlgC6D2CWSk9xLRfWibmVvf4EwWwv7W99ZadQE6dQsS0VvqddIVHxgw/640?wx_fmt=jpeg&tp=webp&wxfrom=5&wx_lazy=1

霍金的担心是杞人忧天？

物理学家霍金：“由于生物学意义上的限制，人类无法赶上技术的发展速度，人类由于受到缓慢的生物进化的限制，无法与机器竞争，并会被取代。全人工智能的发展可能会导致人类的终结”。

 

科大讯飞董事长刘庆峰回应说，机器没法自己设定规则。“所以他一定是在人类定的大规则下来为我们服务的。机器帮助人类更好地探索宇宙，更好地开发地球。”

http://mmbiz.qpic.cn/mmbiz/HDjjoLzUze3iaiahM1CfB6hsdUZEkiaC5qDduml2fF5pmT3giaHELMHrRZHrSJBRkJSExywicDsSZx4H6Ulnib06vG8A/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1

研究人工智能如同召唤恶魔？

陈伟鸿问，特斯拉的CEO马斯克曾经说过人工智能为人类造成了有史以来最严重的威胁，研究人工智能就如同召唤恶魔。

 

微软全球资深副总裁洪小文回应说，恶魔的定义到底是什么，恶魔最后还是人，这也就是怪机器是何等的无辜。“有的人说核子武器是最好的发明，我们从二战到现在多久没有战争了，因为制衡的关系。所以我觉得最后不管怎么样，冤有头、债有主，核子武器就算是最坏的发明，一定是有一个峰值有一天把地球给毁了，你要怪那个人。”

http://mmbiz.qpic.cn/mmbiz/HDjjoLzUze3iaiahM1CfB6hsdUZEkiaC5qD4fVtA1zqADRSLjdoV1QK61sRXFCibmhDjpzT9aFYkgqZ8A30D5mGErQ/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1

 Star  VC  联合创始人任泉认为，为什么那些电影里边有那么多的让我们想不到的、控制不住的机器？“其实是要告诉科学家，我们研究这些东西要可控，未来一定要有机器人的法律，有他的道德标准，能让你往下去发展，去研究它。”

“机器人三定律”真能保护人类？

陈伟鸿表示，阿西莫夫的所谓的“机器人三定律"，也就是希望机器人未来不要发展到一个失控的地步。

 

小i机器人(上海智臻智能网络科技股份有限公司)创始人、董事长兼CEO袁辉袁辉表示赞同，人工智能发展的核心是不伤害人类。

http://mmbiz.qpic.cn/mmbiz/HDjjoLzUze3iaiahM1CfB6hsdUZEkiaC5qDibjKiciaRq048hjc7P0z6FHVAcfkWVpMFvzicUaWSbEicujxQXJ6s7KlpjQ/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1

“机器人三定律”并不完美

搜狗公司CEO王小川补充道，阿西莫夫写过非常多的小说，机器人的小说里面有大量的章节讲这三条，带来很多很多的悖论，到底是不是不想去杀一个人，最后把人给杀掉了，所以最终这三句话并不完美。

当超级人工智能出现

科大讯飞董事长刘庆峰表示，如果超级人工机器具备自我意识的时候，这三条立刻就被摧毁了。“第二，当执行的工程师没有这么想的时候，这三条规则照样没用。今天讨论这三条规则，还不如说在讨论伦理的时候，把我们的法律体系完善起来。而且第一步不是机器要替代，或者控制人类，而是当人工智能替代掉大量的劳动岗位，而新的岗位没有创造起来之前，如何通过法律法规使得我们的弱势群体的生活能够得到更好的保障。”

 

微软全球资深副总裁洪小文说，他觉得非常乐观的就是人的良知，大家今天谈这个AI，其实另外的东西叫克隆人，然后基因改造，基因工程。“今天可以动到基因，可以改人的基因，这里面有多少法律道德的这些问题，但是我相信人类的智慧和良知，所以未来是美好的。”

http://mmbiz.qpic.cn/mmbiz/HDjjoLzUze2j6hbRxEQVRrwWfHiaVEFvZyS71Xw1ribefeagmcOpGFcKIJ35AcjLt06PGBjAiawLWd8f7zglDzYOw/640?wx_fmt=jpeg&tp=webp&wxfrom=5&wx_lazy=1

不希望人工智能成为爱人

Star  VC  联合创始人任泉也表示，希望未来的机器人能为自己服务，并且希望机器人能成为他的秘书。“但是不希望它成为我的爱人，我希望他有爱，但是不要跟人谈恋爱。”

http://mmbiz.qpic.cn/mmbiz/HDjjoLzUze3iaiahM1CfB6hsdUZEkiaC5qD8ZvMOGBvhCsBjnMJic2CVoUUibmbD5y5jWXHLZHq3KORxCojqe4CZbMw/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1

文|莫锐超

编辑|闻聪