📢 转载信息
原文作者:Amanda Silberling
逝者不可诽谤,但我们不应深度伪造他们
已故演员罗宾·威廉姆斯的女儿塞尔达·威廉姆斯(Zelda Williams)对她父亲的粉丝们有一个沉痛的呼吁。
她在周一的Instagram快拍中写道:“求求大家,别再给我发我爸爸的AI视频了。别再以为我想看或者我能理解了。我不想,也永远不会理解。”她接着说:“如果你还有一点点良心,就停止对他、对我,对所有人做这种事,就此打住。这很愚蠢,浪费时间精力,相信我,这不是他想要的。”
威廉姆斯选择在这个时间点发声,可能并非巧合,因为就在几天前,OpenAI发布了Sora 2视频模型和Sora社交应用,该应用赋予用户生成高度逼真自己的、朋友的以及某些卡通人物的深度伪造视频的能力。
这当然也包括已故之人,他们似乎成了“公平的游戏”,因为根据学生新闻法中心(Student Press Law Center)的说法,诽谤死者并不违法。

Sora不会让你生成在世人物的视频——除非是你自己,或者一个已授权你使用其肖像的朋友(OpenAI称之为“客串”)。但这些限制不适用于已故之人,他们几乎可以被无障碍地生成视频。这款应用目前仅限邀请使用,已被大量历史人物(如小马丁·路德·金、富兰克林·德拉诺·罗斯福和理查德·尼克松)以及已故名人(如鲍勃·罗斯、约翰·列侬、亚历克斯·特雷贝克,当然还有罗宾·威廉姆斯)的视频淹没。
OpenAI如何划定生成已故人物视频的界限尚不清楚。例如,Sora 2不会生成已故的前总统吉米·卡特(2024年去世)或迈克尔·杰克逊(2009年去世)的形象,尽管根据TechCrunch的测试,它确实创建了罗宾·威廉姆斯(2014年去世)的形象视频。虽然OpenAI的“客串”功能允许人们设置自己在别人生成的视频中如何出现——这是对Sora早期批评的回应——但逝者对此却无能为力。我敢打赌,如果理查德·尼克松能看到我制作的关于他倡导废除警察制度的深度伪造视频,他肯定会在坟墓里翻身的。

OpenAI未回复TechCrunch关于深度伪造已故人士许可问题的置评请求。然而,深度伪造像威廉姆斯这样的已故名人可能符合该公司的可接受做法;法律先例表明,该公司很可能不会对已故者的诽谤承担法律责任。
相约Disrupt 2025,与1万多位科技和风投领袖共同成长和建立联系
Netflix、Box、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla——这些只是引领200多场旨在提供助推初创企业成长和提升竞争力的真知灼见的250多家重量级企业中的一部分。不要错过TechCrunch二十周年庆典,以及向科技界顶尖声音学习的机会。在门票开售前抢占先机,最高可节省444美元。
相约Disrupt 2025,与1万多位科技和风投领袖共同成长和建立联系
Netflix、Box、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla——这些只是引领200多场旨在提供助推初创企业成长和提升竞争力的真知灼见的250多家重量级企业中的一部分。不要错过向科技界顶尖声音学习的机会。在门票开售前抢占先机,最高可节省444美元。
威廉姆斯写道:“看着真实的人的遗产被简化为‘看起来和听起来有点像他们就足够了’,只为让其他人能炮制出拙劣的TikTok来操控他们,这太令人抓狂了。”
OpenAI的批评者指责该公司在这些问题上采取了“快速而松散”的方法,这就是为什么Sora一经发布就被AI生成的受版权保护的角色(如彼得·格里芬和皮卡丘)的视频淹没。首席执行官山姆·阿尔特曼(Sam Altman)最初表示,好莱坞制片厂和代理公司如果不想让他们的知识产权被包含在Sora生成的视频中,就需要明确选择退出。电影协会(Motion Picture Association)已呼吁OpenAI就此事采取行动,声明称“成熟的版权法保护了创作者的权利,并适用于本案”。他后来表示该公司将扭转这一立场。
Sora可能是迄今为止人们可以使用的、最具危险性的具备深度伪造能力的AI模型,因为它输出的效果极其逼真。像xAI这样的其他平台则有所落后,但它们的护栏比Sora更少,使得生成真实人物的色情深度伪造视频成为可能。随着其他公司追赶OpenAI,如果我们把真人——无论生死——当作自己的私人玩具,我们将树立一个可怕的先例。
🚀 想要体验更好更全面的AI调用?
欢迎使用青云聚合API,约为官网价格的十分之一,支持300+全球最新模型,以及全球各种生图生视频模型,无需翻墙高速稳定,小白也可以简单操作。
青云聚合API官网https://api.qingyuntop.top
支持全球最新300+模型:https://api.qingyuntop.top/pricing
详细的调用教程及文档:https://api.qingyuntop.top/about
评论区