Sora 2 和 Sora 应用将前沿的视频生成技术与全新的协作创作方式相结合，我们从一开始就确保了安全性的内置。我们的方法建立在具体的保护措施之上：

1. 区分AI生成内容：明确标识

• 区分AI内容。 每一个使用 Sora 生成的视频都包含可见和不可见的来源信号。在启动时，所有输出都会带有可见的水印。所有 Sora 视频还嵌入了 C2PA 元数据（一种行业标准签名），并且我们保留了内部的反向图像和音频搜索工具，可以高精度地将视频追溯到 Sora，这基于 ChatGPT 图像生成和 Sora 1 的成功系统。

2. 基于同意的肖像使用：掌控你的形象

• 同意使用肖像。 我们的目标是通过“客串”（cameos）功能，让您完全掌控自己的肖像。我们设置了防护栏，旨在确保您的音频和图像肖像的使用都获得了您的同意。只有您决定谁可以使用您的客串，并且您可以随时撤销访问权限。我们还采取措施屏蔽对公众人物的描绘（当然，使用客串功能的人除外）。包含您客串的视频（包括其他用户创建的草稿）始终对您可见。这使您可以轻松查看和删除（如有必要，进行举报）任何包含您客串的视频。我们还对任何包含客串的视频应用额外的安全防护栏，您甚至可以设置客串的行为偏好（例如，要求它总是戴一顶礼帽）。

3. 青少年的保护措施：安全友好的环境

• 青少年的安全保障。 Sora 为年轻用户提供了更强的保护，包括对成熟内容的限制。信息流（Feed）旨在适合青少年，青少年资料不推荐给成年人，成年人也不能向青少年发起消息。ChatGPT 中新的家长控制功能允许父母管理青少年是否可以发送和接收私信（DM），以及在 Sora 应用中选择非个性化的信息流。默认情况下，青少年在 Sora 中的连续滚动时间也受到限制。

4. 过滤有害内容：创意与安全的平衡

• 过滤有害内容。 Sora 使用分层防御系统来保持信息流的安全，同时为创意留出空间。在生成阶段，防护栏会通过检查跨多个视频帧和音频转录的提示和输出，力求在生成前就阻止不安全内容（包括色情内容、恐怖主义宣传和自残宣传）。我们进行了红队测试（red teaming）以探索新颖的风险，并根据 Sora 更高的真实性以及运动和音频的增加，收紧了相对于图像生成的政策。在生成之后，自动化系统会根据我们的全球使用政策扫描所有信息流内容，并过滤掉不安全或不适合特定年龄的内容。这些系统会随着我们对新风险的了解而不断更新，并辅以人工审核，重点关注影响最大的危害。

5. 音频安全保障：尊重创作者

• 音频安全保障。 为 Sora 添加音频提高了安全门槛，虽然要实现完美保护很困难，但我们仍在继续认真投入于这一领域。Sora 会自动扫描生成的语音转录内容，以查找潜在的政策违规情况，并阻止生成模仿在世艺术家或现有作品的音乐的尝试。我们的系统旨在检测并阻止此类提示，并且我们尊重创作者认为 Sora 的输出侵犯了其作品的删除请求。

6. 用户控制与申诉：完全自主权

• 用户控制和申诉。 您决定何时以及如何分享您的视频，并且您可以随时删除您已发布的内容。只有当您选择时，视频才会被分享到信息流。每一个视频、个人资料和评论都可以被举报滥用，如果政策被违反，会有明确的申诉途径。您也可以随时选择屏蔽账户，这将阻止其他人查看您的个人资料或通过私信联系您。