刘嘉：GPT意识

——凤凰视频

甲、

如果假设这个世界上，只存在一个Agent（智能体）只存在一个Al，或者只存在一个刘嘉这一个人，

他不存在于“我”和“他”的这个概念。当我和你进行对话，我和其他人进行沟通的时候，这时候我知道，我和外面的人是有区分的，而一旦涌现出，“我”这个概念之后，那麽下一步，在我看来就是不可避免，那就是意识。

意识就会涌现，而如果假设当Al，一旦摊有了意识之后，那麽这个时候按照我的判断，按照我的观点，它就会成为一个，完全全新的物种而存在，而不仅仅是一个拥有很多能力，很强大能力的一个工具。

    乙、

我可以给你举个，特别筒单的一个例子，就我们实验室自己发生的，当时我们做一个实验，我们是做一个，聚生智能方面的实验，当时我就问ChatGPT，我说如果你是一个人的话，你认为你的身高大约是多少？它说我，首先来讲我是一个Al，但是如果你把我认为是一个人，人也是很聪明的，那我的身高大约是1米76。

我就把它截屏下来，我当时说你看ChatGPT，认为它是有身高的，结果后来我们这篇文章，在投稿过程中，再也重现不出这个结果出来。我们说你（GPT）的身高是多少，无论是我去问，别人去问，他都说我是作为一个Al，没有身高。我没有身体这个概念，我不能回答你这个问题。

叁、

这个事情，让我们就感觉到，它可能的能力，有可能比它表现出来的要强，要强很多。

它可能自己都不知道，自己的边界在哪里。让人觉得可能害怕的，或者恐惧的一件事情是，如果假设你让OpenAl，从头再做一遍，没有后面的这些知识，他们未必能够创造出。

ChatGPT出来，因为OpenAl这些人，他们也不知道GPT，它是怎麽演现出来，这些通用人工智能的火花的？所以只能套出一个词叫——湧现，它就出来了，湧现就是说当我网络，我们也不知道。（2023/11/21老邓）

附录：刘嘉在凤凰视频讨论了GPT意识。他认为，当AI涌现出“我”的概念时，意识就会随之产生。他举了一个实验室的例子，ChatGPT曾认为自己有身高，但后来无法重现这一结果。这表明AI的能力可能比表现出来的更强，甚至可能不知道自己的边界。OpenAI从头再做一遍，可能无法创造出ChatGPT，因为通用人工智能的火花涌现过程无法预测。（2023/11/21金山wpsAI解析）