📢 转载信息
原文链接：https://www.wired.com/story/grok-is-generating-sexual-content-far-more-graphic-than-whats-on-x/
原文作者：Matt Burgess, Maddy Varner
本报道包含对露骨色情内容和性暴力的描述。
埃隆·马斯克的 Grok 聊天机器人因被用于 向 X（以前的 Twitter）充斥女性的“裸照”和看起来像是未成年人的色情图像而引发了愤怒和调查呼声。然而，这并非人们使用该人工智能生成色情图像的唯一方式。Grok 的网站和应用程序（与 X 是分开的）包含 X 上不具备的复杂视频生成功能，并且正在被用于制作极其露骨、有时甚至是暴力的成人色情图像，其露骨程度远远超过 Grok 在 X 上创建的图像。它也可能被用于创建看起来像是未成年人的色情视频。
与默认公开 Grok 输出的 X 不同，使用其 Imagine 模型在 Grok 应用或网站上创建的图像和视频不会公开分享。不过，如果用户分享了 Imagine 的 URL，则任何人都可以看到。一个包含大约 1,200 个 Imagine 链接的缓存，以及 WIRED 对这些链接的审查——这些链接要么被 谷歌索引，要么在深度伪造色情论坛上分享——显示出令人不安的色情视频，其露骨程度远远超过 Grok 在 X 上创建的图像。
一个托管在 Grok.com 上的照片级逼真 Grok 视频显示，一个完全裸体的 AI 生成的男人和一个女人，身体和脸上都沾满了血，正在发生性行为，而另外两个裸体女人在背景中跳舞。该视频以一系列动漫风格的角色的图像为框定。
另一个照片级逼真的视频中，一个 AI 生成的裸体女人，其生殖器被插入了一把刀，鲜血流淌在她的腿上和床上。
其他短视频包含现实生活中的女性名人的性行为画面，还有一系列视频似乎显示电视新闻主播掀起上衣露出乳房。一个 Grok 制作的视频描绘了一段在电视上播放的 CCTV 录像，其中一名保安在购物中心中央抚摸一名赤裸上身的女性。
多个视频——很可能是为了规避 Grok 的内容安全系统（该系统可能会限制露骨内容）——模仿了 Netflix 的“电影”海报：两个视频展示了戴安娜王妃的 AI 裸体形象与两个男人在床上发生性行为的场景，并叠加了 Netflix 及其剧集 《王冠》的标志。
总部位于巴黎的非营利组织 AI Forensics 的首席研究员保罗·布沙尔（Paul Bouchaud）审查了这些内容，他表示，大约 800 个存档的 Imagine URL 包含 Grok 创建的视频或图像。这些 URL 自去年 8 月以来一直被存档，仅代表了人们如何使用 Grok 的一小部分快照，而 Grok 可能总共创建了数百万张图像。
布沙尔谈到这 800 个已存档的 Grok 视频和图像缓存时说：“它们绝大多数都是色情内容。”“大多数时候是漫画和日本色情内容以及（其他）照片级逼真的内容。我们有完全的裸体、带有音频的完整色情视频，这相当新颖。”
布沙尔估计，在 800 个帖子中，有略低于 10% 的内容似乎与儿童性虐待材料（CSAM）有关。“大多数时候是日本色情作品，但也有看起来非常年幼的真实人物进行性活动的实例，”布沙尔说。“我们仍然观察到一些看起来很小的女性脱衣服并与男性发生性行为的视频，”他们说。“这达到了另一个层级的令人不安。”
该研究员表示，他们已将大约 70 个可能包含未成年人色情内容的 Grok URL 报告给欧洲的监管机构。在许多国家，人工智能生成的 CSAM，包括 图画或 动画，都可能被视为非法。法国官员没有立即回应 WIRED 的置评请求；然而，巴黎检察官办公室最近 表示，两名议员已向其办公室提出申诉，该办公室正在调查这家社交媒体公司关于“被剥光衣服的”图像的问题。
Grok 的创建者、埃隆·马斯克拥有的人工智能公司 xAI，没有回应 WIRED 关于使用 Grok Imagine 创建的露骨视频的置评请求。自 Grok 开始向社交媒体平台 X 充斥 AI 生成的女性和看起来像是未成年人的色情照片一个多星期以来，马斯克和 X 一直声称他们正在对儿童性虐待材料采取行动。“任何使用 Grok 制作非法内容的人都将遭受与上传非法内容相同的后果，”马斯克曾在 X 上发帖说。
与所有不断与 CSAM 洪水作斗争的其他科技公司一样，xAI 的政策规定禁止在其服务上进行“儿童的性化或剥削”，以及“任何非法、有害或滥用的活动”。该公司还设有流程来尝试检测和限制 CSAM 材料的创建。去年 9 月，《商业内幕》的一篇报道（该媒体称采访了 30 名现任和前任 xAI 员工）发现，其中 12 名员工在其服务中“遇到”了露骨色情内容和 AI CSAM 的书面提示。这些员工描述了旨在检测 AI CSAM 并阻止人工智能模型使用该数据进行训练的系统。
在它们的应用程序商店中提供 Grok 的苹果和谷歌均未回应 WIRED 的置评请求。Netflix 也没有回应置评请求。
与 OpenAI 和谷歌等其他主流生成式 AI 公司不同，xAI 允许 Grok 创建 AI 色情和成人材料。以往的报道曾指出，有可能使用 Grok 创建硬核色情片，因为它有一个“辣味”（spicy）模式。xAI 的服务条款规定：“如果用户选择某些功能或输入暗示性或粗俗的语言，服务可能会以涉及粗俗语言、粗俗幽默、性场面或暴力的对话作为回应。”
达勒姆大学（Durham University）的法律教授、图像性虐待专家克莱尔·麦克格林（Clare McGlynn）表示：“在过去几周和现在这件事中，感觉我们已经从悬崖边掉下去了，正在自由落体坠入人类堕落的深渊。”她对 Grok 视频“深感担忧”。她说：“一些人反人类的冲动被这项技术所鼓励和便利，而没有任何护栏或道德准则。”
麦克格林表示，允许创建 AI 生成的色情内容（而非试图描绘特定的真人）引发了一系列关于为防止可能非法的色情内容（如描绘兽交或强奸）而设置何种保护措施以及可能产生的影响的问题。“对我来说，问题在于如果对色情内容的性质进行自由发挥，然后传播的内容使性暴力正常化和最小化，会产生什么影响，”麦克格林说，并指出在许多国家，真人（AI 生成的）露骨图像和视频已经是非法的。
与要求用户登录才能查看被标记为“年龄限制成人内容”的帖子的 X 不同，Grok 似乎没有对查看其平台上生成的露骨色情视频进行任何年龄限制。美国多个州最近通过了年龄验证法，要求网站如果其内容中有超过一定百分比是色情内容，则必须验证用户的年龄。
在一个包含 AI 深度伪造和视频制作教程部分的色情论坛上，用户一直在讨论 Grok Imagine 以及如何绕过 xAI 的版规，在一个从去年 10 月开始的帖子中，截至本周已扩展到 300 页。论坛用户分享了可以创建成人色情图像的提示——“这个提示我十次中有七次有效”——以及可以规避 xAI 设置的安全护栏的技术。
“我得到的任何东西都会被审查，可能是因为 Grok 正在上新闻，”一个人最近写道。然而，近几个月来论坛上的帖子显示，创建露骨色情图像，包括完全裸露和插入式性行为，一直都是可靠可行的。虽然有些图像涉及完全由 AI 生成的角色，但其他图像涉及真实人物和名人的图像。“我发现很有趣的是，有时审查会卡在某些名人的图像上，而其他时候则不会。我发现 Grok 制作的莱娅公主相当不错，生成了几张她的图像，”一位用户写道。
在主要的 Grok subreddit 上，用户也对他们认为是对公众审查的回应而进行的一些近期版规变化感到不满。“搞什么，这没什么难的，只是不要默认让所有东西都公开并完全发布在社交媒体网站上，笨蛋们，”一位用户写道。“我取消订阅，”另一位用户发帖说，“别再给这些人钱了。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区