📢 转载信息
原文链接：https://openai.com/index/advancing-content-provenance
原文作者：OpenAI
如今，人们每天都在使用 OpenAI 的工具来创作和编辑图像与音频，让日常沟通变得更具表现力、更实用、更触手可及。随着这些工具融入人们构建、想象和分享的方方面面，使用户能够理解并验证媒介的来源变得至关重要，这能让他们在解读信息时更有信心。内容溯源特征可以通过提供上下文，帮助人们了解内容的来源、创建或编辑的方式，以及它是否可信。
今天，我们正在通过一种多层级、生态驱动的模型来强化我们的内容溯源方案，以构建网络信任。我们正在通过遵循 C2PA 标准，让其他工具和平台更容易识别我们的溯源特征；通过与 Google 合作，为图像添加更具韧性、跨平台的 SynthID 数字水印；并向公众分享一款工具的预览版，供大家验证图片是否出自 OpenAI。
通过 C2PA 合规构建可信生态系统
自 2024 年起，OpenAI 就已深入参与溯源标准的制定与普及。彼时，我们开始为 DALL·E 3 生成的图像添加内容凭证（Content Credential），随后又将其扩展至 ImageGen 和 Sora。同时，我们也加入了内容溯源和真实性联盟（C2PA）的指导委员会。C2PA 的技术方案利用元数据和加密签名，确保关于某项媒介的信息能够安全地随内容本身一同传输。
近期，我们更进一步，使 OpenAI 正式成为符合 C2PA 标准的生成式产品。通过达成 C2PA 合规，我们为各大平台提供了一种值得信赖的方式，用以读取、保留并传递我们附加在内容上的溯源信息。
多层级溯源方案：引入 Google SynthID 图像水印
C2PA 元数据是内容溯源的重要基石，但元数据并非万无一失。它可能会被移除或因文件处理而遭到破坏。为了提升内容溯源的韧性，我们正采取一种多层级的深度防御方案，并引入 Google DeepMind 的 SynthID 水印技术。
SynthID 能够嵌入一层隐形水印，与基于 C2PA 元数据的溯源方案形成强有力的互补。数字水印在经历截图等图像转换时往往更具耐受性，而元数据则能比单纯的水印提供更丰富的信息流。二者结合，使内容溯源方案比任何单一层级都更加坚韧。
特征检测与公众验证工具预览
为了让溯源特征更易于验证，我们推出了公共验证工具的预览版。该工具通过检查上传的图片中是否包含内容凭证及 SynthID 特征，帮助人们验证图片是否由 ChatGPT、OpenAI API 或 Codex 生成。
没有任何一种检测方法是万无一失的，因此在检测不到特征时，我们采取了审慎的态度。如果系统未检测到元数据或水印，该工具不会对图片是否由 OpenAI 工具生成做出定性结论。
展望未来
没有任何单一的内容溯源技术能够孤军奋战。通过深化对内容凭证的支持、达成 C2PA 标准合规、引入 SynthID 以及推出公众验证工具，我们希望能为构建一个更具互操作性的内容溯源生态系统贡献力量。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区