“深度伪造”值得担心吗？

2024年01月08日

利维坦按：对于“深度伪造”的未来不能过于乐观，各种移花接木可不仅仅是娱乐和恶搞。最近的以哈战争，各种恶意煽动仇恨的伪造图片漫天飞，煽起了暴力的火焰。不过，计算机科学家、媒体取证专家沃尔特·谢勒的调查结果是，大多数“深度伪造”似乎都只为会心一笑，虚假内容中绝大多数似乎旨在建立联系，而不是破坏与毁灭。今天的“深伪”，很像历史上讽刺、灵异摄影术等戏仿与想象传统的数字后代。它并不是对公民规范的彻底背离，而是人类创造神话和讲故事动力的自然演变--

我欣赏戏仿和讽刺在人类沟通中的价值。这是一种社会批判的古老形式，经常被有策略地使用。那时谈论同类相食和吃婴儿，也令人不安，但实际表达的是对贫困的批判。互联网上很多充斥着颠覆性的内容，需要思考一下才能理解其真意。问题是，我们太过杞人忧天。

深伪于2017年首次出现在互联网上，并不是一项特别新的技术。人们非常担心在政治背景下会改变选举进程或导致政治暴力。但这些都没发生。如果把时间倒转，看看我们今天构建互联网的很多想法，都来自上世纪60年代媒体理论家马歇尔·麦克卢汉。他是虔诚的天主教徒，在没有“互联网”这个字出现时，他已预示互联网的诞生，相信天主教信仰是最终的媒体系统。因为你总是在交流，与圣人，与已故的人，当然还有上帝。他着迷于通过信息网络将整个地球团结起来的想法。

我们同时生活在两个不同的领域：现实世界及神话周期。想象力对人类的生存非常有用，为什么要浪费时间凭空捏造事物？我们难道不应该只是工作吗？但这两种思考方式相辅相成，都很重要。互联网是用来做什么的？很多人说它是信息高速公路，去那里是为了获取事实并完成工作。但互联网从来就不仅如此。更重要的是，在这里我们可以与他人分享我们想象力的投射。我们只与技术大师和网络政策专家交流，很少与精神分析学家、人类学家和神学家交流。想想梦境吧，互联网——尤其是人工智能技术——就像一个梦境。这有点像19世纪末流行的“灵异摄影”。摄影师在在暗房里可以编辑照片，二度曝光会呈现出幽灵般的魅影。“深伪”也是类似的事情。人们有与已故亲人保持联系的冲动。

询问互联网上的某事是真实的还是伪造的，似乎无关紧要。这不是赞同不道德行为。网络虚假信息所揭示的内容比隐藏的内容更多，它们告诉了我们一些关于我们自己的信息。