📢 转载信息
原文链接：https://openai.com/index/launching-sora-responsibly
原文作者：The Sora team
Sora 2 和 Sora 应用将尖端视频生成技术与全新的联合创作方式相结合，而我们从一开始就非常注重安全性。我们的方法立足于切实的保护措施：
1. 区分 AI 生成的内容：清晰的溯源标识
- 使用 Sora 生成的每一段视频都带有可见和不可见的溯源信号。推出之时，所有输出都将带有明显的水印。
- Sora 生成的所有视频均内嵌 C2PA 元数据，即行业标准签名。
- 我们还准备了内部反向图片和音频搜索工具，能够以高精度溯源来自 Sora 的视频。这些工具基于成功的 ChatGPT 图像生成和 Sora 1.0 系统构建而成。
2. 基于同意使用肖像权：严格的“客串”形象控制
- 我们的目标是让您全程掌控 Sora 中的形象呈现。我们制定的防护措施旨在确保您的音频和图片肖像只能在您同意的情况下，通过 Cameo 出镜秀功能使用。
- 您可自主决定谁能使用您的“客串”形象，并随时撤销访问权限。
- 我们还采取措施屏蔽公众人物的形象（当然，使用 Cameo 出镜秀功能的公众人物除外）。
- 包含您的“客串”形象的视频始终对您可见，包括其他用户创作的草稿。因此，您可以轻松查看并删除（必要时还可举报）任何包含您的“客串”形象的视频。
- 对于任何包含“客串”形象的视频，我们都会采取额外的防护措施，您甚至可以自定义“客串”形象的行为偏好，例如要求其始终佩戴软呢帽。
3. 青少年保护措施：定制化和家长控制
- Sora 为青少年用户提供了更强大的保护措施，包括限制成人内容输出。
- 青少年看到的信息流专门针对他们的年龄设计，系统不会向成年人推荐青少年用户的个人资料，成年人也无法主动向青少年用户发送消息。
- 通过 ChatGPT 新增的家长控制功能，家长可以设置是否允许亲少年收发私信，还能在 Sora 应用中选择非个性化信息流。
- 默认情况下，青少年连续使用 Sora 的时间也受到限制。
4. 过滤有害内容：分层防御与政策管控
- Sora 采用分层防御机制来保障信息流的安全，同时为创意留出空间。
- 用户生成内容时，防护措施会检查多个视频帧和音频转录文本的提示词和输出，从而在生成内容之前屏蔽不安全的内容（包括色情素材、恐怖主义宣传及鼓吹自残）。
- 鉴于 Sora 的逼真程度再次提高，而且新增了动态和音频功能，我们的红队测试人员探索了新的风险类型，并针对图像生成加强了政策管控。
- 除了生成阶段的防护，自动化系统还会根据我们的全球使用政策扫描所有信息流内容，并过滤不安全或与用户年龄不相称的素材。随着我们对新增风险的了解不断加深，这些系统也会持续更新，同时辅以人工审核机制，重点关注影响最严重的有害内容。
5. 音频安全保护：版权与模仿限制
- 为 Sora 添加音频功能之后，安全标准也随之上升。尽管目前还难以实现全面防护，但我们会持续加大在这个方面的投入。
- Sora 会自动扫描生成的语音文本来检测潜在的政策违规行为，同时阻止用户生成模仿在世艺术家或现有作品的音乐。
- 我们的系统能够检测并屏蔽此类提示词；如果创作者认为 Sora 输出的内容侵犯了其著作权，我们也会尊重创作者提出的下架请求。
6. 用户控制与追索权：分享、删除与申诉渠道
- 您可以选择何时以及如何分享您的视频，还可以随时删除您发布的内容。只有当您选择分享视频时，您创作的视频才会通过信息流分享。
- 如果发现政策违规行为，您可以对任何视频、个人资料和评论提出滥用举报，我们将提供明确的申诉渠道。
- 您还可以随时选择屏蔽其他帐户，防止他人查看您的个人资料或通过私信与您联系。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。
青云聚合API官网https://api.qingyuntop.top
支持全球最新300+模型：https://api.qingyuntop.top/pricing
详细的调用教程及文档：https://api.qingyuntop.top/about
评论区