📢 转载信息
原文链接：https://openai.com/index/creating-with-sora-safely
原文作者：The Sora team
Sora 2 模型和 Sora 应用提供了最先进的视频生成能力，以及一种全新的协作创作方式，并且我们从一开始就确保了安全性。我们的方法建立在具体的防护措施之上：
- 区分 AI 内容。Sora 生成的每个视频都包含可见和不可见的来源信号。所有 Sora 视频还嵌入了 C2PA 元数据—这是行业标准的签名—并且我们维护内部的反向图像和音频搜索工具，能够高精度地追溯视频来源 Sora，这基于 ChatGPT 图像生成和 Sora 1 的成功系统。许多输出还带有可见的、动态移动的水印，其中包含创作者的姓名。
- 真人肖像的图像到视频生成。在我们继续加强 Sora 的安全防护栏的同时，我们正在释放更多创造性的表达和连接，包括允许人们从家人和朋友的照片中创作视频。用户可以上传包含人物的图片，以便在 Sora 中制作视频，前提是他们已声明获得图片中人物的同意以及上传媒体的权利。涉及人物的图像到视频生成受到特别严格的安全防护栏的约束，甚至比 Sora Characters（以前称为 cameo 功能）允许的更为严格。包含儿童和看起来年轻的人的图像会受到更严格的审核和关于可以从中生成内容的防护栏。这些视频在分享时也会始终带有水印。
- 基于同意的角色肖像使用。我们创建了角色（在新窗口中打开），以确保您在 Sora 中的肖像受到严格控制。肖像包括您的外貌和声音。我们有旨在确保您在角色中捕捉到的音频和图像肖像都获得您同意的防护栏。只有您决定谁可以使用您的角色，并且您可以随时撤销访问权限。我们还采取措施阻止对公众人物的描绘，除非他们使用角色功能。包含您角色的视频—包括由其他用户创建的草稿—始终对您可见。这使您可以轻松地查看和删除（并在需要时举报）任何包含您角色的视频。我们还对包含角色的任何视频应用额外的安全防护栏，您甚至可以开启一套更严格的防护栏，限制使用类型。这包括限制对您外貌的主要更改、将您置于尴尬的境地，以及保持您身份的广泛一致性。
- 针对青少年的安全措施。Sora 为年轻用户提供了更强的保护，包括对成熟内容的限制。Feed 的设计适合所有 Sora 用户，并且会过滤掉可能对青少年账户有害、不安全或不适合年龄的内容。青少年档案不推荐给成年人，成年人也不能主动与青少年进行消息交流。ChatGPT 中的家长控制允许家长管理青少年是否可以发送和接收私信，以及在 Sora 应用中选择一个非个性化的 Feed。默认情况下，青少年在 Sora 中连续滚动的时长也有限制。
- 过滤有害内容。Sora 使用分层防御系统来保持 Feed 的安全，同时为创意留出空间。在创作时，防护栏会尝试在内容生成之前就阻止不安全内容—包括色情材料、恐怖主义宣传和宣扬自残—通过检查多个视频帧和音频转录中的提示和输出。我们进行了红队测试以探索新风险，并根据 Sora 更逼真的效果和动态及音频的增加，收紧了相对于图像生成的政策。除了生成之外，自动化系统还会根据我们的全球使用政策扫描所有 Feed 内容，并过滤掉不安全或不适合年龄的材料。这些系统会随着我们对新风险的了解而不断更新，并辅以人工审查，重点关注影响最大的危害。
- 音频安全措施。为 Sora 添加音频提高了安全标准，尽管完美的保护很难实现，我们仍在该领域进行大量投资。Sora 会自动扫描生成的语音转录，以查找潜在的政策违规行为，并且还会阻止模仿在世艺术家或现有作品的音乐生成尝试。我们的系统旨在检测和阻止此类提示，并且我们遵守认为 Sora 的输出侵犯了其作品的创作者发出的删除请求。
- 用户控制和追索权。您选择何时以及如何分享您的视频，并且可以随时删除您发布的内容。只有在您选择分享时，视频才会分享到 Feed。每个视频、个人资料、直接消息、评论和角色都可以举报滥用行为，当违反政策时会有明确的追索权。您还可以随时选择屏蔽账户，这将阻止他人查看您的个人资料或帖子、使用您的角色以及通过直接消息联系您。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区