陈楸帆谈AI

        阅读札记

AI技术深刻改变的人类社会图景的作品，当人们谈到AI，常说应该让AI与人类的价值观对齐，“但问题是人类社会内部的价值观都不对齐。”

“整个世界的现实图景已经高度复杂化、抽象化，它远离了我们日常经验的限度。”科幻小说可称为“思想实验”，“因为未来不会等你。”。

2017年开始与AI共同写作，那时Google推出了Transformer模型架构，现在ChatGPT也是基于这个框架发展而来的。编写代码、构建模型、用数据训练，使用我的小说作为数据。早期阶段，算法和数据规模都很小，实验性尝试，挺有意思。

2020年升级，利用更多语料训练了一个名为“AI科幻世界”的工具。发现AI在理解上下文、整体逻辑的自洽性，以及语言风格的流畅程度方面有了很大的提升。

2022年ChatGPT刚发布时，许多创业团队基于OpenAI的API接口开展了许多项目，我当时预测其中99.99%会很快消亡。因为OpenAI自己的大模型，可以轻松地通过插件或定制化模型形式展现出新的功能，可以完全覆盖这些创业项目。

AI不是一键下单的过程，其实整个过程里人类需要付出的劳动，一点也不比自己独立创作少。跟创意写作相关，可能会用它做头脑风暴，它会给出很多方向，但大部分都比较平庸或者套路化。需要有一个开放、积极、建设性的心态去对待它。在人机不断交互的过程中，人类也在不断学习，成为更好的创作者。如果人类用非常懒惰、被动的方式去使用AI，它就会给出让你变得更懒惰、更被动的答案。

欧洲主要偏重于风险监管，关注AI对传统人本价值、人文领域的冲击。资本一方是“加速主义”，而“对齐主义”认为不应盲目追求速度，可能会有风险。

英国《布莱切利宣言》首先是识别风险，其次是建立起对这些风险的全球共识。目的是构建一个国际包容的AI前沿安全的研究网络。

“技术”的话语真正进来确实是在改革开放之后，利用它来提升生产力和生产效率。1980年代提出“科学技术是第一生产力”就说明科技是非常重要的工具。关于技术的反思，更多是学术圈，在大众层面，感到带来了很多生活上的便利，也推动了经济发展和国力的上升。

我们社会对技术的认知，还属于比较被动的接受、而且比较玫瑰色的乐观主义，相信它能给我们带来好处。而对负面的讨论，还是处在一个小众的话语体系，更多人会把它们当作娱乐，而不是具有警醒意识的作品。

AI的讨论中，有一个本质问题是，人这个物种的独特性，是否在AI来临时变得岌岌可危了？

现在人工智能学到的也是非常有限的数据集，比如语言文字上的数据，还包括图像上的。但有更多更微妙复杂的、无法被量化的数据，比如情绪的变化、意识现在是无法被监测到的。因为意识本身需要通过表征外化成语言文字、标签、声音等等，需要一个外部化的过程。所以，当你的意识还没有被表征出来时，其实就无法被识别、探测和量化。

尤瓦尔·赫拉利说，“人类作为一个物种，其独特的能力其实是讲故事，而不是使用工具或者语言。”最后还是取决于人类本身。不要小看每个个体，虽然力量很渺小，但是每个个体最后能够通过这样的讲述故事的方式，凝聚起共识。

其实我们已经在进入一个虚拟时代了，经过疫情，很多行业加速了这个过程。但这个过程中也会有新的问题出现，包括信息的真伪辨别，在未来这种AIGC（生成式人工智能）能力可能是一个非常低成本的工具，可能给社会带来干扰，甚至造成不良影响和风险。不管是在中国还是其他国家，会引起非常大的社会结构变化，包括人口出生率、结婚率的下降等等。这是一个必然的过程，人必须有真实的社交，物理世界的交流和交往非常重要。虚拟数据的解析度还非常低（如720解析度）但真人渐变可能是4K或者8K的解析度，它的信息密度是完全不一样的。

报纸、电台、电视台的时代，可以控制你读到什么、读不到什么。到了互联网时代，打破了所谓的阶层和权力结构，发现它又重新中心化了。现在的AI也是一个非常中心化的东西，你很难设想一个没有钱、没有数据的个体创业者能在这个时代靠自己搞出一个大语言模型，因为没有钱买GPU、搞数据、训练机器。

人类很多东西都是共通的，不然也不可能成为一个共同的文明。只不过很多时候差异分歧被放大，变成裂缝。必需找到凝聚在一起的最核心的力量。这个力量，很多时候需要通过讲故事的方式，尤其科幻。科幻比较独特的一点，它既是在地的，又是普世的；既是个体的，又是集体的；既是当下的，又是未来的。

我写在VR建一个潮汕祠堂，你的先辈们都是以这种虚拟的数字人的形式被供奉，你还可以跟他们去互动，其实也是一种对故乡的科幻式表达。（2024-4-24老邓）