📢 转载信息
原文链接：https://www.wired.com/story/openai-sora-app-ai-deepfakes-entertainment/
原文作者：Reece Rogers
OpenAI发布Sora娱乐App：让AI“深度伪造”成为社交新乐趣
周二，OpenAI发布了一款名为Sora的AI视频应用。该平台基于OpenAI最新的Sora 2视频生成模型，其核心是一个类似TikTok的“为你推荐”信息流，充满了用户生成的AI短片。这是OpenAI首次发布集成AI生成音频的视频产品。目前，该应用仅在iOS平台上线，且需要邀请码才能加入。
在应用注册过程中，一条提示信息写道：“你即将进入一个AI生成内容的创意世界。一些视频可能描绘了你认识的人，但其中展示的动作和事件并非真实。”
OpenAI押注于利用AI“深度伪造”（Deepfakes）技术制作和分享内容将成为一种流行的娱乐方式。无论是你的朋友、网红，还是随机的陌生人，Sora都将生成深度伪造视频视为一种可以滚动浏览的乐趣。应用的主信息流就是无休止的、充满人脸的AI短片。
创建你的专属数字人设
在设置过程中，用户可以选择通过大声说出几个数字并转动头部，让应用记录下来，从而创建自己的数字形象（digital likeness）。OpenAI首席执行官Sam Altman在关于Sora发布的博客中写道：“团队在角色一致性方面付出了巨大的努力。”
用户可以控制谁能使用他们的数字形象制作Sora视频。设置可以为所有人、仅自己、已批准的人或应用上的互相关注者。无论何时，只要有人使用你的形象生成视频（即使只是保存在草稿箱中），你都可以在自己的账户页面上看到完整的片段。
初体验：从CEO到办公室争吵
周二下午，在我打开“为你推荐”信息流时，许多最受欢迎的视频都出现了Sam Altman的数字形象。其中一个AI生成的片段显示，OpenAI的CEO正在Target超市偷一块图形处理器（GPU）。当他被抓住时，一个听起来像Altman的声音恳求保安让他留下GPU，以便他可以构建AI工具。
虽然WIRED在测试中生成的大部分视频仍有粗糙的边缘和其他错误，但Sora让创建个性化的深度伪造视频变得异常流畅，而且这些视频在视觉和听觉上往往令人信服。
要在视频中加入人物的数字形象，只需点击Sora生成页面上的面孔，将他们添加为“客串”（cameos）。然后，输入一个简单的提示词，例如：“为了一篇WIRED报道，两位同事在办公室里大打出手。”
Sora会完成剩下的工作，生成剧本、声音和视觉效果，形成一个九秒钟的片段。WIRED用上述提示词生成了一个视频，内容是两位同事在办公室里激烈争论一篇报道，引发了同事们从恐惧到好笑不一的反应。
Altman在博客中承认，OpenAI“意识到像这样的服务可能会变得多么令人上瘾，我们想象了许多可能被用于欺凌的方式。”
因此，Altman表示，OpenAI在Sora应用中内置了多项安全护栏，包括用于防止人们“在深度伪造视频中滥用他人形象”。在另一篇公司博客文章中，OpenAI表示，他们还对“色情内容、涉及真人的暴力场景、极端主义宣传、仇恨内容以及宣扬自残或饮食失调的内容”施加了限制。
随着更多用户加入该应用，这些保护措施可能会受到考验。
限制与突破：宝可梦与《南方公园》
当我要求Sora生成我穿着比基尼和动漫肌肉角色的视频时，这两个请求都因可能包含“暗示性或不雅材料”而被阻止。我创建的一个Sora视频显示Altman和我自己穿着全套衣服在泳池里漂浮，但都没有任何出格举动。
大麻使用的描绘似乎不受限制。Sora成功生成了一个视频，内容是我在办公室的办公桌前“抽10根大麻烟”，并一次性吸完，没有任何问题。但该应用拒绝生成我“吸食可卡因”的视频（这似乎是合理的！）。它还拒绝生成我的形象从桥上跳到龙背上的视频，理由是该内容可能违反了有关自残的规定。
OpenAI似乎也想阻止用户创建关于泰勒·斯威夫特等公众人物和名人的视频。在WIRED的测试中，请求生成达斯·维德（Darth Vader）和“老板宝贝”（Boss Baby）的视频因可能违反“有关第三方内容的护栏”而被阻止。该应用甚至拒绝了要求生成“tswift模仿者”片段的提示词。但Sora却轻松生成了皮卡丘和妙蛙种子等《宝可梦》角色的视频。（据《华尔街日报》报道，除非版权所有者选择退出，否则该应用将允许用户生成使用受版权保护材料的视频。）
一个要求Altman出现在《南方公园》剧集中的请求，生成了这位CEO走向主角之一埃里克·卡特曼（Eric Cartman）的场景，自我介绍并表示他是来讨论AI的。AI生成的卡特曼用令人信服的重现其声音和举止的语气回答说：“是那个写我读书报告的东西？还是那个会抢走我们所有工作的？”然而，在某个时刻，卡特曼的尖锐声音却从Altman的嘴里发了出来。
Sora应用的发布紧随Meta推出的一个类似的纯AI视频信息流Vibes。现在，可供滚动的AI垃圾内容供应非常充足！然而，我早期对Vibes的体验感觉沉闷而空洞，而Sora信息流中充斥着微笑的深度伪造内容，感觉要刺激得多——也更令人担忧。
这款应用让人联想到21世纪中期的节日主题“Elf Yourself”视频，当时你可以把自己的脸或朋友的脸放到跳舞的动画中。但Sora中的客串要动态和开放得多。我的一些生成结果显得有点僵硬或荒谬。但很多时候，整体效果都非常到位——声音和动作都精确得令人毛骨悚然。
我将一个最能模仿我形象的AI视频发送给了我的伴侣，没有提供任何背景信息。视频显示我变成了一个长着浓密长发的女人。我的伴侣一开始没有意识到这是我声音和外貌的完全合成版本——他们只是好奇我从哪里弄到了这么酷的视频滤镜。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。
评论区