人工智能也是一面审视自我的镜子，我们在思考人工智能的道德时，也在反思自己的道德。

来一个思想实验：假设你在设计一套自动驾驶程序，其中面临这么一个情况：车子失控，前面是个分岔路，左边的路上有一个行人，右边的路上有四个人，无论往哪边拐都会撞到人，请问你该怎么设定这个程序？假如更进一步，左边是四个老人，右边是一个孩子，又该怎么办？

这就是著名的电车难题，

不同的人会做出不同的判断。

可到底哪一种才是对的呢？

假如按照道德哲学的功利主义原则，应该做出达到最大善也就是利益总和最大化的决定，最直接的判断就是让更多的人活下来。

但是，如果两边的人数一样多，那么不可避免地就会涉及到对生命价值的判断，一个孩子和一个老人，谁更应该活下来呢？我们人类没办法回答这个问题，就不能把同样的问题转给人工智能。

因为

首先，几乎人人都无法接受让机器来决定人的生死；

其次，人工智能的判断原则目前还是以计算为主，那么它就不得不以数字的方式来界定每个人，这又是一个我们目前难以回答的问题，人可以被简化成一堆数字的综合吗？

数字时代，也许需要和这个时代相适应的道德观，可是目前这些简单的原则，我们都很难接受。