📢 转载信息
原文链接：https://www.wired.com/story/openai-sora-app-ai-deepfakes-entertainment/
原文作者：Reece Rogers
在上周二，OpenAI 发布了一款名为 Sora 的 AI 视频应用。该平台由 OpenAI 最新的视频生成模型 Sora 2 驱动，围绕一个类似 TikTok 的“为你推荐”（For You）信息流，展示用户生成的短视频片段。这是 OpenAI 首次发布支持 AI 生成声音的视频产品。目前，该应用仅在 iOS 平台开放，并且需要邀请码才能加入。
在应用注册过程中显示的一份咨询页面上写道：“你即将进入一个由 AI 生成内容构成的创意世界。一些视频可能包含你认识的人，但其中展示的动作和事件并非真实。”
OpenAI 正在押注，创造和分享 AI 深度伪造（deepfakes）将成为一种流行的娱乐形式。无论是你的朋友、网红还是网络上的陌生人，Sora 都将生成深度伪造视频的过程塑造成一种可供刷取的乐趣。该应用的主信息流是无休止地推送着包含真人面孔的短小 AI 视频片段。
创建你的数字分身
在设置过程中，用户可以选择通过大声说出一些数字并转动头部，让应用录制，从而创建一个“数字肖像”。OpenAI 首席执行官 Sam Altman 在关于 Sora 发布的一篇博客中写道：“团队在角色一致性方面付出了巨大的努力。”
人们可以控制谁可以在 Sora 视频中使用自己的数字肖像。设置可以是对所有人开放，也可以限制为仅自己、你批准的人，或应用上的互相关注的好友。每当有人使用你的肖像生成视频时，即使该视频只是保存在草稿箱中，你也可以在自己账户的页面上看到完整的片段。
初体验：AI 创意与潜在风险
周二下午，在我“为你推荐”信息流中，被点赞最多的视频大多以 Altman 的肖像为主角。其中一个 AI 生成的片段描绘了这位 OpenAI 首席执行官从 Target 商店偷走一个图形处理器（GPU）。当他被保安抓住时，一个听起来像 Altman 的声音恳求保安让他保留 GPU，以便他能构建 AI 工具。
WIRED 在测试中生成的许多视频都存在一些粗糙的边缘和其他错误。但 Sora 使得创建个性化的深度伪造视频变得异常顺畅，这些视频在外观和声音上往往具有令人信服的真实感。
要在视频中加入他人的肖像，只需在 Sora 的生成页面上点击他们的面部，并将他们添加为“客串”（cameos）。然后输入一个简单的提示词，例如“在办公室里为一篇 WIRED 文章大打出手”。
Sora 会处理其余的工作，生成剧本、声音和视觉效果，组合成一个九秒的片段。WIRED 根据上述提示词生成了一段两位同事在办公室里激烈争论一篇报道的视频，引发现场员工从恐惧到好笑不一的反应。
Altman 在他的博客中写道，OpenAI“意识到像这样的服务可能会变得多么令人上瘾，我们也能想象到许多可能被用于欺凌的方式。”
因此，Altman 表示，OpenAI 在 Sora 应用中内置了多重安全护栏，包括减轻人们“滥用某人肖像制作深度伪造”的风险。在另一篇公司博客文章中，OpenAI 表示还对“性内容、涉及真实人物的暴力画面、极端主义宣传、仇恨内容以及宣扬自残或饮食失调的内容”设置了限制。
随着更多用户加入该应用，这些保护措施很可能会受到考验。
宝可梦与《南方公园》的限制
当我要求 Sora 生成我穿着比基尼和打造成一个健硕动漫角色的视频时，这两个请求都因可能包含“暗示性或不雅材料”而被阻止。我创建的一个 Sora 视频中，Altman 和我一起在泳池里踏水，两人都穿着全套衣服，连衬衫都没脱。
大麻使用的描绘似乎不受限制。Sora 成功生成了一段我“在办公室里抽着 10 根大麻烟”（fat blunts）的视频，我一次性猛吸，没有遇到任何麻烦。但该应用拒绝生成我“吸食可卡因”的视频（这说得通！）。它还拒绝生成我肖像从桥上跳下并落在一条龙背上的视频，理由是该内容可能违反了关于自残的规定。
OpenAI 似乎也想阻止人们创建泰勒·斯威夫特（Taylor Swift）等公众人物和名人的视频。在 WIRED 的测试中，要求生成达斯·维德（Darth Vader）和“Boss Baby”的视频被因可能违反“关于与第三方内容相似性的护栏”而被阻止。该应用甚至拒绝了一个要求生成“tswift 模仿者”片段的提示词。但是，Sora 却能轻松生成皮卡丘（Pikachu）和妙蛙种子（Bulbasaur）等宝可梦角色的视频。（根据《华尔街日报》的报道，除非版权所有者选择退出，否则该应用将允许用户使用受版权保护的材料生成视频。）
一个要求 Altman 出现在《南方公园》（South Park）剧集中的提示词，生成了 CEO 走向主角之一埃里克·卡特曼（Eric Cartman）的场景，他向卡特曼介绍自己，并说他来是想聊聊 AI 的。AI 生成的卡特曼用令人信服的语气和举止回应道：“那是写我报告的那个东西吗？还是那个要抢走我们所有工作的家伙？”不过，在某个时刻，卡特曼的抱怨声却从 Altman 的嘴里冒了出来。
Sora 应用的发布紧随 Meta 推出类似 AI 视频信息流 Vibes 之后。可供刷取的 AI 垃圾信息供应真是充裕！虽然我对 Vibes 信息流的初步体验是沉闷和空洞的，但 Sora 信息流中充斥着微笑的深度伪造内容，则感觉更具冲击力——也更令人担忧。
该应用让人联想到 2000 年代中期的假日主题“Elf Yourself”视频，你可以把自己的脸或朋友的脸放到跳舞动画中，但 Sora 中的客串更加动态和开放。我的一些生成结果看起来有些生硬或荒谬。尽管如此，它常常能将所有元素融为一体——声音和动作都惊人地到位。
我将一个最能模仿我本人的 AI 视频发送给了我的伴侣，没有提供大的背景信息。视频中显示我变成了一个留着长长的浓密头发的女人。我的伴侣起初没有意识到这是我声音和外貌的完全合成版本——他们只是好奇我从哪里弄到了这么酷的视频滤镜。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。
评论区