Sora将如何影响科学与社会

2024-03-17

英国《自然》周刊网站3月12日刊登《OpenAI的文生视频工具Sora会如何改变科学——以及社会》，作者为乔纳森·奥卡拉汉：

美国开放人工智能研究中心(OpenAI)上个月发布了文生视频人工智能工具Sora，这在担心这项技术被滥用的研究人员心中引发了一种恐惧与兴奋杂陈的情绪。这家位于加利福尼亚州的公司展示了Sora利用少量简短文本提示创造逼真视频的能力，并提供了包括一名妇女在霓虹灯闪烁的东京街头漫步和一只狗在两个窗台间跳跃的视频实例。

英国莱斯特市德蒙特福特大学的数字文化专家特蕾西·哈伍德说，她对文生视频人工智能的发展速度感到“震惊”。一年前，人们还在嘲笑人工智能生成的美国演员威尔·史密斯吃意大利面的视频。现在，一些研究人员担心这项技术可能颠覆2024年的全球政治。

曾开发了ChatGPT聊天机器人和DALL·E文生图像技术的OpenAI2月15日推出了Sora工具，并宣称将把该技术开放给“红队成员”进行攻击，以便对关键方面作出危害和风险评估。“红队”攻击是指对某项技术实施模拟的攻击或非法利用，以便观察它如何应对真实世界的恶意行为，例如生成虚假信息和仇恨内容。

Sora并非文生视频技术的第一个案例。其他例子包括由纽约市的Runway公司开发并在去年发布的Gen-2模型，以及今年1月宣布的由谷歌公司主导的Lumiere模型。哈伍德说，其中有些产品并未让她留下深刻印象。她说，“它们向你展示的内容正在变得越来越模棱两可”，并补充说这些程序需要有非常具体的提示才能生成引人注目的内容。

哈伍德还表示，虚假信息是这些文生视频技术面临的重大挑战。她说：“我们将很快到达一个被看起来极其逼真的大量信息所湮没的时刻。这真的让人担忧。”

这尤其将给即将到来的选举——包括11月的美国总统选举和迫在眉睫的英国大选——造成麻烦。

这项技术也存在潜在的好处。哈伍德指出，该技术可用于以更易于理解的形式表达晦涩难懂的文本，如学术论文。她说：“它可以实现的最重要用途之一是向外行受众介绍研究结果。它可以形象化地表达非常复杂的概念。”

另一个潜在用途可能是医疗，文生视频人工智能可以代替医生与患者交谈。英国的科普咨询师克莱尔·马隆说：“有些人可能会觉得它令人不安。而其他人则可能觉得它十分方便，如果他们希望每天多次向医学专业人士提问的话。”

马隆说，像Sora之类的文生视频人工智能工具可以帮助研究人员处理海量数据集，例如瑞士日内瓦附近的欧洲核子研究中心(CERN)及其他大型科学项目所产生的数据。她还指出，人工智能可以“运行代码和完成枯燥的研究任务”，也可以从事“复杂得多的工作，例如你可以提供给它数据，然后让它作出预测”。

从事创意行业的人们也提出了忧虑。美国影星汤姆·汉克斯去年曾表示，人工智能可以“从现在一直到永远”让他死后继续出现在电影中。英国雷丁大学从事生成式人工智能与电影制作研究的学者多米尼克·利斯说：“倘若你是一位考虑自己前途的有抱负的年轻演员，你会被告知‘抱歉，汤姆·汉克斯将永远扮演主角’，你还会打算未来投身表演业吗？”

文生视频人工智能将产生需要社会面对的广泛问题。哈伍德说：“我们将不得不学习评价我们用过去所没有过的方式看到的内容。这些工具把成为媒体内容创作者的机会交到每个人手上。我们将要应对由此带来的后果。这将是物质消费方式的根本性改变。”