📢 转载信息
原文作者：Sarah Perez
YouTube 正在将其识别 AI 生成的深度伪造（deepfake）技术的肖像检测技术，扩展到一个由政府官员、政治候选人和记者组成的试点群体，公司于周二 宣布。试点群体的成员将获得一个工具，该工具可以检测未经授权的 AI 生成内容，并允许他们在认为内容违反 YouTube 政策时请求删除。
这项技术本身 去年已推出，面向 YouTube 合作伙伴计划中的约 400 万 YouTube 创作者，此前曾进行过 早期测试。
与 YouTube 现有的 Content ID 系统 类似，该系统用于检测用户上传视频中的受版权保护的材料，肖像检测功能则会寻找使用 AI 工具生成的模拟人脸。这些工具有时被用来传播虚假信息和操纵人们对现实的认知，因为它们利用了知名人物（如政治家或其他政府官员）的深度伪造形象，在这些 AI 视频中让他们说出或做出在现实生活中从未做过的事情。
通过新的试点计划，YouTube 旨在平衡用户的言论自由与可能生成令人信服的公众人物形象的 AI 技术所带来的风险。
YouTube 政府事务和公共政策副总裁 Leslie Miller 在周二发布会前的新闻吹风会上表示：“这次扩展真正关乎的是公共对话的完整性。” “我们知道，对于那些身处公民领域的人来说，AI 冒充的风险尤其高。但虽然我们提供了这个新的保护盾，但我们也在谨慎地使用它。”
Miller 解释说，并非所有检测到的匹配内容都会在请求时被删除。相反，YouTube 将根据其现有的隐私政策指南评估每个请求，以确定该内容是否属于受保护的言论自由形式，如模仿或政治评论。
该公司指出，他们也在联邦层面倡导这些保护措施，并支持华盛顿的 NO FAKES Act（一项禁止使用 AI 创建未经授权的个人声音和视觉形象的法案）。
要使用新工具，符合条件的试点测试者必须首先上传自拍照和政府身份证件来证明其身份。然后，他们可以创建个人资料，查看出现的匹配内容，并选择请求删除。YouTube 表示，他们计划最终允许用户在违规内容上线前阻止其发布，或者可能允许他们通过这些视频获利，这与 Content ID 系统的工作方式类似。
该公司不愿确认哪些政治家或官员将成为首批测试者，但表示目标是随着时间的推移，将该技术广泛提供。
这些 AI 视频将被标记为 AI 生成内容，但这些标签的放置并不一致。对于某些视频，标签会出现在视频描述中；而对于涉及更“敏感话题”的视频，标签会放置在视频的开头。这是 YouTube 对所有 AI 生成内容采取的相同做法。
YouTube 创作者产品副总裁 Amjad Hanif 在解释标签放置问题时说：“有很多内容是用 AI 制作的，但这种区别实际上与内容本身无关。” “可能是一个由 AI 生成的卡通。因此，我认为需要判断这是否是一个可能值得非常显眼免责声明的类别。”
YouTube 目前没有透露有多少此类 AI 深度伪造内容已被创作者通过这项深度伪造检测技术处理，但指出迄今为止已删除的内容数量“非常少”。
Hanif 说：“我认为对很多（创作者]来说，这只是让他们意识到正在创建什么内容，但实际上删除请求的数量非常非常少，因为大多数内容实际上是良性的，或者对他们的整体业务有补充作用。”
对于政府官员、政治家或记者的深度伪造内容，情况可能并非如此。
随着时间的推移，YouTube 打算将其深度伪造检测技术扩展到更多领域，包括可识别的声音和流行的角色等其他知识产权。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区