​黑格尔说，“真正有价值的悲剧不是出现在善恶之间，而是出现在两难之间。”眼下，关于人工智能与人类的关系，就是这样一种关系。没有什么比谈论人工智能更酷炫的了。但问题在于，许多科幻电影、电视剧已经设想了无数次，最终机器人终将崛起，而人类将会被取代的悲惨结局。

最近，霍金就再次表示了这种担忧：自从人类文明形成以来，来自生存能力优势群体的侵略就一直存在，而未来新科技（人工智能）进一步发展便可能具备这种优势，它们可能会通过核战争或生物战争摧毁我们。因此人类需要利用逻辑和理性去控制未来可能出现的威胁。

其实，无论是科幻电影中的桥段，或是霍金的担心，某种意义上，更像是对于人类未来不确定的焦虑。这种不确定，既源于对智能的理解上存在的不确定性，也在于人工智能对人类社会制度可能造成冲击的不确定性。

就智能而言，究竟何为智能，智能是否只有人类这样一种智能的产生方式？现在所有的人工智能技术，都是基于对人类智能的简单、粗糙的模仿。即使像所谓的“神经网络”这样的名称，听着特别神、特别玄，但它与人类的神经系统的真实情况，还是要差上好多个级别，它们仍然只是建立在神经元连接机理的粗浅抽象上的数学模型。

并且，目前所有的人工智能产品，都局限于某个极窄的范围之内，不要说产生通用的，或是超级智能，即使是简单的跨界，也需要做出很大的调整，才能实现。

当然，你可以说，还是存在某个时刻，人工智能就是变得比人类聪明了。那时人工智能就会替代人类，甚至消灭人类。我们假设真的存在这样的时刻，这意味着人工智能需要具备某种意识，不管这种意识，是否跟人类相同。如果没有这种意识，人工智能为什么要来消灭人类呢？为什么一定要与人类为敌呢？

而且，这种意识的觉醒，也只能靠上帝去决定了。人类现在对于自身的意识、伦理、思想究竟是如何产生的，它们又是什么，尚且不清楚。很难想象，人类因此可以制造出具有这类意识的机器。如果机器真能自主产生意识，觉醒过来，那只能说，这是宿命，因为人类根本控制不了。

相较于这种可能性非常微小的威胁，更值得我们关注的，是人工智能对人类社会制度产生的冲击。这种冲击，并非人工智能的主动行为，而是人工智能改变目前的生产行为方式后，人类社会自身如何来适应、调整自身的制度。

虽然人工智能带来的自动化潮，可能消灭当前近半数的工作岗位，但失去收入的只是普通的劳动者而已，企业却可能因此受益，甚至获取更多的利润。那么这些利润、财富该如何分配呢？如果全部为企业家所有，那么毫无疑问，这个社会的财富将越来越集中到少数人的手中。

正如英国乐施会今年早些时候发布报告所告诉我们的，目前世界上最富有的八个人，拥有的财富是人类总体财富的一半。想像一下，如果机器人革命加剧这种财富分配趋势，结果会如何？在未来的某个时候，或许几个富人可以控制近百分之百的社会财富。

社会的不公平将会是极大的问题。

正如上一次工业革命，催生了工人运动，使得劳动与资本关系发生了变化，进而产生了福利制度和福利国家。现在，我们更紧迫的事情，恐怕不是去想，人工智能一旦觉醒，有了自主意识之后，会如何来消灭人类，而是人类在面对新的劳动关系，新的生产方式时，人类社会的制度究竟应该怎样调整，怎样来适应。

所以，如果人工智能能够摧毁人类，那一定不是因为人工智能足够智能、觉醒，而是人类在这一波的社会关系变化中，人类自己失控了，放任极端化的社会制度出现，破坏了人类自身生存的基础。这与其说是人工智能带来的，还不如说是人类自身的不可靠所导致的。​