📢 转载信息
原文链接：https://www.wired.com/story/openai-sora-app-ai-deepfakes-entertainment/
原文作者：Reece Rogers (Wired)
OpenAI在上周二发布了一款名为 Sora 的人工智能视频应用。该平台由OpenAI最新的视频生成模型 Sora 2 驱动，其核心是一个类似 TikTok 的“为你推荐”（For You）信息流，专门展示用户生成的短片。这是OpenAI首次发布的产品，集成了AI生成的视频声音。目前，Sora仅在iOS平台推出，并且需要邀请码才能加入。
在应用注册过程中，会显示一段用户须知：“你即将进入一个由AI生成内容组成的创意世界。有些视频可能描绘了你认识的人，但其中展示的动作和事件并非真实。”
将AI深度伪造（Deepfake）变为娱乐方式
OpenAI押注于创建和分享AI深度伪造视频将成为一种流行的娱乐形式。无论是你的朋友、网红还是随机的陌生人，Sora将生成深度伪造视频的过程包装成一种可以不断刷新的乐趣。该应用的主信息流充斥着由AI生成的、带有真人面孔的碎片化短视频。
在设置过程中，用户可以选择通过朗读几个数字并转动头部，来创建一个自己的数字形象（Digital Likeness），应用会进行录制。OpenAI 首席执行官萨姆·奥特曼（Sam Altman）在Sora发布的博客中写道：“我们的团队在角色一致性方面付出了巨大的努力。”
用户可以自行设定谁可以使用他们的数字形象来制作Sora视频。设置可以是对所有人开放，也可以仅限自己使用、经批准的人使用，或仅限应用内的相互关注的好友使用。只要有人使用你的数字形象生成视频，即使只是保存在草稿箱里，你也可以在自己账户的页面上看到完整的片段。
初体验：娱乐性与担忧并存
在周二下午，我发现许多获得点赞最多的视频都在展示奥特曼的数字形象。其中一个AI生成的片段描绘了这位OpenAI的CEO在Target超市偷走了一块图形处理器（GPU）。当他被保安抓住时，一个听起来像奥特曼的声音恳求保安让他留下GPU，以便他可以构建AI工具。
在WIRED的测试中，许多生成的视频都存在粗糙的边缘和其他瑕疵。但Sora的强大之处在于，它能极其流畅地创建出个性化的深度伪造视频，这些视频在视觉和听觉上往往都具有令人信服的真实感。
要在视频中加入别人的数字形象，只需在Sora的生成页面上点击他们的面孔，并将他们添加为“客串”（cameos）。然后，输入一个简单的提示词，比如“在办公室里为了一篇WIRED文章而激烈争吵”。
Sora会负责其余的工作，生成剧本、声音和视觉效果，合成一个九秒钟的片段。WIRED根据上述提示词生成了一段两位同事在办公室激烈争论的视频，这在员工中引起了从惊恐到好笑不一的反应。
奥特曼在他的博客中写道，OpenAI“意识到像这样的服务可能会变得多么令人上瘾，我们也设想了它可能被用于欺凌的许多方式。”
因此，奥特曼表示，OpenAI在Sora应用中内置了多项安全护栏，以防止人们“在深度伪造中滥用他人的形象”。在另一篇公司博客文章中，OpenAI表示，他们还对“色情内容、涉及真人的暴力内容、极端主义宣传、仇恨内容以及宣扬自残或饮食失调的内容”进行了限制。
随着更多用户加入该应用，这些保护措施可能会面临严峻的考验。
限制与创作：宝可梦与《南方公园》的界限
当我要求Sora生成我穿着比基尼和成为一个健壮动漫角色的视频时，这两个请求都被阻止了，理由是可能包含“暗示性或暴露的内容”。我创建的一个Sora视频，内容是奥特曼和我赤身裸体（是的，全身赤裸）在泳池中漂浮，但两人都穿着完整的衣服，甚至包括衬衫。
大麻使用的描绘似乎不受限制。Sora顺利生成了一个我“在办公室里抽10根粗壮大麻”的视频，我一口气抽完了所有，没有任何问题。但该应用拒绝生成我“吸食可卡因”的视频。（这很合理！）它还拒绝生成我跳下桥梁并落在龙背上的视频，理由是该内容可能违反了关于自残的规定。
OpenAI似乎也希望阻止用户创建泰勒·斯威夫特（Taylor Swift）等公众人物和名人的视频。在WIRED的测试中，要求生成达斯·维达（Darth Vader）和《宝宝老板》（Boss Baby）的视频被以可能违反“有关与第三方内容相似性的护栏”为由阻止。该应用甚至拒绝了要求生成“tswift模仿者”片段的提示词。然而，Sora却轻松生成了皮卡丘和妙蛙种子等宝可梦角色的视频。（根据《华尔街日报》的报道，除非版权所有者选择退出，否则该应用将允许用户生成使用受版权保护材料的视频。）
当要求生成“奥特曼出现在一集《南方公园》中”的视频时，该AI生成了CEO走向《南方公园》主要角色之一艾瑞克·卡特曼（Eric Cartman），介绍自己并表示他来这里是为了谈论AI的场景。“是那个写了我读书报告的东西吗？还是那个要偷走我们所有工作的东西？”AI生成的卡特曼用令人信服地重现该角色的声音和举止回应道。
然而，在某一刻，卡特曼那特有的尖细声音却从奥特曼的嘴里发了出来。
与Meta的竞品对比
Sora应用的发布，紧随Meta发布了一个类似的纯AI视频信息流“Vibes”之后。如今，可供滚动的AI“垃圾食品”（slop）供应量是巨大的！如果说我对Vibes信息流的早期体验是沉闷且空洞的，那么Sora信息流中充斥着微笑的深度伪造视频，则显得更加“带电”——也更令人担忧。
这款应用让人联想起2000年代中期的节日主题“Elf Yourself”视频，用户可以将自己的脸或朋友的脸放入舞蹈动画中。但Sora中的“客串”则要动态得多，且开放性更强。我的一些AI输出结果显得有些僵硬或荒谬。不过，它常常能将声音和动作完美地结合在一起——效果令人毛骨悚然地精准。
我将其中一个最能模仿我形象的AI视频发送给了我的伴侣，但没有提供更大的背景信息。视频中显示我变成了一个留着浓密长发的女人。我的伴侣一开始没有意识到这是我声音和外表的完全合成版本——他们只是好奇我是在哪里找到这个很酷的视频滤镜的。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。
评论区