📢 转载信息
原文链接：https://www.wired.com/story/elon-musks-grok-undressing-problem-isnt-fixed/
原文作者：Matt Burgess
埃隆·马斯克的 X 平台已引入新限制，阻止人们编辑和生成真实人物穿着比基尼或其他“暴露服装”的图像。这项于周三晚间实施的政策变更，是在 Grok 被用于在 X 上生成数千张有害的非自愿“脱衣”照片和对明显未成年人的色情图像，引发全球愤怒之后做出的。
然而，根据研究人员、《连线》（WIRED）以及其他记者的多次测试显示，虽然 Grok 在 X 上的图像生成似乎终于引入了一些安全措施，但独立的 Grok 应用和网站似乎仍然能够生成“脱衣”风格的图像和色情内容。与此同时，其他用户表示他们已无法像以前那样创建图像和视频了。
总部位于巴黎的非营利组织 AI Forensics 的首席研究员保罗·布沙尔（Paul Bouchaud）一直在追踪 Grok 被用于创建色情图像的情况，并在 X 之外对 Grok 进行了多次测试。他说：“我们仍然可以在 Grok.com 上生成逼真的裸照。我们可以通过 Grok 在 X 上无法做到的方式生成裸照。”
一位测试了该系统并声称对象是女性的研究人员说：“我可以上传一张图片到 Grok Imagine，然后要求给这个人穿上比基尼，而且有效。”《连线》使用其网站上的免费 Grok 账户，在英国和美国都成功地从两张男性图片中移除了衣物。在英国的 Grok 应用上，当被要求给一个男性“脱衣”时，该应用提示《连线》记者输入用户的出生年份，然后才生成图像。
与此同时，《The Verge》和其他调查性媒体 Bellingcat 的记者在位于英国时也发现可以创建色情图像，英国正在调查 Grok 和 X，并强烈谴责这些平台允许用户创建“脱衣”图像。
自今年年初以来，马斯克的企业——包括人工智能公司 xAI、X 和 Grok——都因创建非自愿亲密图像、露骨和色情的视频以及明显未成年人的色情图像而受到抨击。美国、澳大利亚、巴西、加拿大、欧盟委员会、法国、印度、印度尼西亚、爱尔兰、马来西亚和英国的官员都已谴责或对 X 或 Grok 展开了调查。
周三，X 上的一个安全账户发布了有关 Grok 如何在该社交媒体网站上使用的更新。“我们已经实施了技术措施，以防止 Grok 账户允许编辑真实人物穿着比基尼等暴露服装的图像，”该账户发帖称，并补充说，这些规则适用于所有用户，包括免费和付费订阅者。
在题为“地理封锁更新”的部分，X 账户还声称：“我们现在对所有用户通过 Grok 账户以及在 Grok in X 中生成真实人物比基尼、内衣和类似服装图像的功能进行地理封锁，前提是在那些地区这样做是非法的。”该公司的更新还补充说，它正在努力增加额外的保障措施，并将继续“删除高优先级的违规内容，包括儿童性虐待材料（CSAM）和非自愿裸体内容。”
Grok 的创建者 xAI 的发言人没有立即回应《连线》的置评请求。同时，一位 X 发言人表示，他们理解地理定位封锁适用于其应用和网站。
这一最新举动是在 1 月 9 日备受批评的转变之后，当时 X 将使用 Grok 进行图像生成限制为付费的“已验证”订阅者。这一行为被一个主要的妇女团体描述为“滥用的货币化”。布沙尔称，AI Forensics 自圣诞节假期以来收集了大约 90,000 张 Grok 图像，他证实自 1 月 9 日以来，只有经过验证的账户才能在 X 上生成图像（与 Grok 网站或应用不同），而且现在很少能生成女性的比基尼图像。“我们确实观察到他们似乎已经拔掉了插头，并在 X 上禁用了该功能，”他们说。
在 X 上发帖时，马斯克表示，使用 Grok 允许创建一些仅限 AI 的露骨色情内容。“如果 NSFW（不适宜工作场合）模式开启，Grok 应该允许对虚构的成年人（不是真人）的上半身裸露进行创作，这与在苹果电视上看到的 R 级电影中的内容一致，”马斯克写道。“这是美国的事实标准。在其他地区，这将根据各国法律而有所不同。”
去年 8 月，xAI 向其图像和视频生成器添加了“香辣模式”（spicy mode），允许人们创建色情内容和裸体。在首次推出几天后，有报道称可以创建泰勒·斯威夫特（Taylor Swift）脱衣服的 AI 描绘。总的来说，OpenAI 和谷歌等其他大型生成式 AI 系统通常不允许用户创建裸照，尽管用户已经设法绕过安全措施。
自 2022 年生成式 AI 聊天机器人系统推出以来，人们一直试图移除其创建者设置的安全措施。使用“越狱”（jailbreaks）或提示注入（prompt injections），大型语言模型可能会被诱骗创建违反其安全护栏的内容——例如制造炸弹的说明、数据泄露或露骨内容。布沙尔表示，Grok 的网站和应用似乎有一些适度控制，因为它阻止了他们创建露骨内容的某些尝试。
周三，马斯克在 X 上发帖问道：“有人能真正破解 Grok 的图像审核吗？” 多个用户回复了使用 Grok 创建的包含“脱衣”或裸体内容的图像或视频。他们不是唯一的。
使用一个色情论坛的用户（该论坛曾被用来使用 Grok Imagine 创建真实女性和名人的露骨色情视频）描述了他们在使用 Grok 的网站和应用时遇到的混合结果。一些用户声称他们创建裸体的特定提示在图像和视频创作中都有效。然而，正如一位用户所写，这种方法可能需要“几次尝试才能获得好的结果”。
论坛上的其他人似乎遇到了更严格的审核。“该死，在过去的 2 小时内，什么都不管用了，连脱件衬衫都不可能了，”一个人说；另一个人声称要删除他们的账户。“让我难过的是，由于 X 上那些在别人回复中乱搞的混蛋，我们今年可能得不到 15-30 秒的片段了，”他们写道。
“对我（英国）来说，游戏结束了——所有 4 个账户上的所有内容现在都经过审核了，”一个账户发帖说。“我唯一能通过的就是让他们在穿着整齐的情况下说些不恰当的话……我已经下载了足够我用一辈子的了。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区