OpenAI 的 Sora 对真理的未来意味着什么

图片来源:CFOTO/Future Publishing via Getty Images

电影早期的一个故事似乎适用于 OpenAI 本周推出的文本到视频创作工具 Sora。鉴于此,由于许多 OpenAI 订阅者仍在等待尝试,我们有时间讲故事。

你可能知道火车抵达拉西奥塔车站(1896) 卢米埃尔兄弟的作品,即使您从未见过。和索拉一样,卢米埃兄弟也制作了展示最新技术的短片。我们谈论的是电影摄影而不是人工智能渲染,以及豪华的 50 秒电影而不是 Sora 视频中允许的最长 20 秒。

不过,原理是一样的:这是一种令人震惊的新娱乐形式的早期尝试。根据传说——马丁·斯科塞斯(Martin Scorcese)关于卢米埃尔时代男孩的迷人电影中巩固了这个传说,雨果(2011)—火车到达观众们惊恐地从一架似乎直奔他们而来的蒸汽机中跑开。

索拉也有类似的恐慌感——具体来说,是对人工智能视频可能会进一步破坏我们的“后真相”媒体格局的恐慌。普通观众已经很难判断什么是真实的,什么是假的,问题是。我们生活在阴谋论的黄金时代。以帮助扭转选举。

当索拉能够做出时会发生什么任何提示看起来就像您在晚间新闻中看到的一样真实 - 准备好在社交媒体上传播吗?

OpenAI 似乎认为它的水印,既可见又不可见,可以防止任何恶作剧。但现在下载了几十个 Sora 视频,我可以证明可见的水印很小,难以辨认,而且经常会消失在背景中。对于视频编辑软件来说,将其完全剪辑掉简直是小菜一碟。

因此,一个充满故意虚假信息的世界,无论是来自不良政治行为者,还是试图提高参与度的有影响力的人,都像火车一样向我们冲来。正确的?

错误的。因为正如卢米埃尔电影的真实故事告诉我们的那样,人类在新的视频娱乐方面实际上比我们想象的要聪明得多。

这是关于火车到达: 这个传说几乎肯定是错误的。我们掌握的第一手证据为零,表明观众在 50 秒的片段中看到火车驶近时逃离了电影院,甚至退缩了。

媒体研究教授马丁·洛珀丁格称这个恐慌故事为“电影的创始神话,”并指出它可以追溯到 20 世纪下半叶写的书籍。作者有可能将其与卢米埃尔后来的实验性 3D 版本混为一谈。火车到达该片在 1934 年放映了几次,就像后来的许多 3D 电影一样,既新鲜又商业上的失败。

所以,早期的观众可能不会将移动的火车图像与真实的火车混淆。相反,他们似乎很快就适应了电影的整个概念。卢米埃尔短片的当代报道(其中有数十部;火车到达并不被视为脱颖而出),他们对现在释放的可能性充满了兴奋。

可混搭光速

一份报纸写道:“为什么,如果这种情况继续下去,巴黎信使报1896年,“我们几乎可以克服记忆丧失,几乎可以结束分离,几乎可以废除死亡本身。” (剧透警告:我们没有,尽管这听起来像是 19 世纪的伟大前提黑镜插曲。)

另一份期刊,法国科学,对创造了电影中的“幻觉幻境”的“最令人难以置信的奇妙巫术”充满热情。即使是当今最喜欢科技的人工智能支持者也很难以同样的方式支持 Sora。

因为像大多数人工智能一样,索拉经常产生“幻觉”——而且不是一种好的方式。

正如我在 OpenAI 服务器没有受到攻击的那一刻发现的那样,几乎每个 Sora 生成的视频都有一些在人眼看来不正确的细节。我输入了“记者因无法访问人工智能视频而沮丧地摔桌子”的提示,然后注意到一支笔在记者手中时隐时现。

错误不断发生。新鲜感很快就消失了。朋友们被“嘻哈艺术家打造舒适的圣诞毛衣”中的赃物的真实性逗乐了,也有点害怕——直到我们发现说唱歌手的金链变成了后面的金色马尾辫,而驯鹿则出现在后面。毛衣有八条腿。

索拉对“马戏团小丑参加的葬礼弥撒”的回应几乎准确无误……只是棺材里那个戴着彩色假发、红鼻子的人物不见了他的身体。

这并不是说 Sora 不会对动态影像行业产生直接影响。考虑到不那么奇怪的提示,它肯定可以取代 YouTube 解释器和企业培训视频中常见的许多通用 B-roll。 (假设 OpenAI 不会被迫停止和停止未经制作者许可。)

可以说,在制作包含任何不寻常的内容、任何你试图撒谎的内容、任何 Sora 没有接受过专门培训的视频时,存在很大的进入障碍。根除所有这些错误,以至于我们不会立即注意到,可能是一种挫败感的练习。

也许这些早期充满错误的人工智能视频将成为一种大规模接种——一种小剂量的后真相疾病,它能有效地为我们的大脑提供抗人工智能的抗体,让我们更好地为未来视觉假货的流行做好准备。 。

AI视频需搭上线索列车

在我促使 Sora 对 Lumieres 进行新的尝试之后,我对 AI 的印象肯定不那么深刻了。火车到达。我要了一个机车的视频实际上最后突破了投影屏幕,碾压了电影观众。

但 Sora 甚至无法观看最初的 50 秒短片,该短片是方式不受版权保护并可在网上广泛使用(包括已经通过人工智能升级的版本)。它产生了一部名为“塔尔[原文如此]火车的到来”的电影的幻觉,显然是在“18965”年上映的。

至于打破字面上的第四堵墙,别想了:尽管多次尝试重新措辞,索拉还是无法理解我的要求。投影屏幕完好无损。

尽管如此,这个版本的 Sora 可能仍然是一些可怕的视觉伪造的预兆——也许当更强大的人工智能视频技术落入未来的 DW Griffith 手中时。

其间过去了二十年火车到达和格里菲斯臭名昭著的电影一个国家的诞生(1915)第一部真正的大片,电影史上的里程碑,它也恰好是对美国近代历史的歪曲,充满了种族主义谎言。

格里菲斯的电影在当时遭到全国有色人种协进会的抗议,对延续种族隔离和复兴三K党产生了巨大影响。

所以,是的,也许索拉的释放正在慢慢地推动我们进一步走向支离破碎的后真相世界。但即使在人工智能主导的未来,坏人如果想对社会造成比电影最危险的提示更大的损害,就必须加班。

克里斯是一位资深科技、娱乐和文化记者,《星球大战如何征服宇宙》一书的作者,也是《神秘博士》播客“Pull to Open”的联合主持人。克里斯来自英国,他的职业生涯始于担任全国性报纸的副编辑。 1996年,他移居美国,一年后成为时代网的高级新闻撰稿人。 2000年,他被任命为《时代》杂志旧金山分社社长。他曾担任《Business 2.0》的高级编辑、《Fortune Small Business》和《Fast Company》的西海岸编辑。克里斯毕业于牛津大学默顿学院和哥伦比亚大学新闻研究生院。他还是 826 Valencia 的长期志愿者,这是由作家 Dave Eggers 共同创立的全国性课后项目。他关于星球大战历史的书是国际畅销书,已被翻译成 11 种语言。

本新闻稿可能包含广告、优惠或附属链接。订阅时事通讯即表示您同意我们的使用条款隐私政策。您可以随时取消订阅时事通讯。