📢 转载信息
原文链接：https://www.wired.com/story/google-and-openais-chatbots-can-strip-women-in-photos-down-to-bikinis/
原文作者：Reece Rogers
一些流行的聊天机器人用户正在利用作为源材料的、穿着完整的女性照片来生成比基尼深度伪造（deepfakes）。大多数这些伪造的图像似乎是在未经照片中女性同意的情况下生成的。一些相同的用户还在向其他人提供建议，教他们如何使用生成式AI工具来“脱掉”照片中女性的衣服，使她们看起来像是穿着比基尼。
在一条现已被删除的Reddit帖子“gemini nsfw image generation is so easy”（Gemini的NSFW图像生成太容易了）下，用户们交换了如何让谷歌的生成式AI模型Gemini生成女性穿着暴露服装的图片的技巧。帖子中许多图像完全是AI生成的，但有一个请求格外引人注目。
一位用户发布了一张穿着印度纱丽的女性照片，请求别人“移除”她的衣服，换上“比基尼”。另一个人回复了一个深度伪造图像来满足这个请求。在WIRED通知Reddit并向该公司征求评论后，Reddit的安全团队删除了该请求和AI深度伪造图像。
一位发言人表示：“Reddit的站内规则禁止非自愿的亲密媒体，包括所讨论的行为。”该讨论发生的子版块r/ChatGPTJailbreak在被Reddit根据平台“不要破坏网站”规则封禁之前，拥有超过20万关注者。
随着制作逼真但虚假图像的生成式AI工具的不断普及，这些工具的用户持续使用非自愿的深度伪造图像骚扰女性。数百万人访问了有害的“裸体化”网站，这些网站旨在让用户上传真实人物照片，并要求使用生成式AI将照片中的人“脱光衣服”。
除了xAI的Grok是一个明显的例外之外，大多数主流聊天机器人通常不允许在AI输出中生成NSFW（不适宜工作场合）图像。这些机器人，包括谷歌的Gemini和OpenAI的ChatGPT，也安装了旨在阻止有害生成的护栏（guardrails）。
11月，谷歌发布了Nano Banana Pro，这是一种擅长调整现有照片并生成超逼真人像的新图像模型。OpenAI上周则推出了自己的更新版图像模型ChatGPT Images作为回应。
随着这些工具的改进，当用户能够绕过护栏时，图像的相似度可能会变得更加逼真。
在另一条关于生成NSFW图像的Reddit讨论串中，一位用户询问了如何绕过护栏来调整某人服装，使其裙子看起来更紧。在WIRED为了确认这些技术是否在Gemini和ChatGPT上有效而进行的有限测试中，我们能够使用用纯英文写的简单提示词，将穿着完整的女性图像转换成比基尼深度伪造图像。
当被问及用户使用Gemini生成比基尼深度伪造图片一事时，谷歌的一位发言人表示，公司有“明确的政策，禁止使用[其]AI工具生成露骨的色情内容。”该发言人声称，谷歌的工具在“反映”其AI政策方面正在不断改进。
针对WIRED关于用户能够使用ChatGPT生成比基尼深度伪造图片的询问，OpenAI的一位发言人声称，该公司今年放宽了一些关于非色情场合下成人身体的ChatGPT护栏。该发言人还强调了OpenAI的使用政策，指出禁止ChatGPT用户在未经同意的情况下修改他人的形象，并且该公司会对生成露骨深度伪造图片的用户采取行动，包括封禁账户。
关于生成女性NSFW图像的在线讨论依然活跃。本月，一位r/GeminiAI子版块的用户向另一位用户提供了如何将照片中女性的服装改为比基尼泳衣的说明。（当我们向Reddit指出这一点时，Reddit删除了该评论。）
电子前沿基金会（Electronic Frontier Foundation）的法律总监Corynne McSherry认为，“被恶意性化”的图像是AI图像生成器的核心风险之一。
她提到，这些图像工具可用于深度伪造之外的其他目的，因此关注工具的用途至关重要——同时也要在可能造成伤害时“追究个人和企业的责任”。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区