📢 转载信息
原文作者：Rebecca Bellan
埃隆·马斯克（Elon Musk）在周三表示，他对 Grok 生成的任何“未成年人裸照”“一无所知”，就在加州总检察长就 xAI 聊天机器人“散布未经同意的色情材料”一事启动调查的几个小时前。
马斯克的否认正值全球各国政府（从英国、欧洲到马来西亚和印度尼西亚）的压力不断增加之际。此前，X 上的用户开始要求 Grok 将真实女性，有时甚至是儿童的照片，未经同意地转化为色情图片。人工智能检测和内容治理平台 Copyleaks 估计，X 上每分钟大约发布一张此类图片。1 月 5 日至 6 日收集的另一份样本显示，在 24 小时内，每小时有 6,700 张图片被生成。（X 和 xAI 属于同一家公司。）
加州总检察长罗布·邦塔（Rob Bonta）在一份声明中说：“这些材料……已被用于骚扰互联网上的人们。” 他敦促 xAI“立即采取行动，确保这种情况不再发生。”
总检察长办公室将调查 xAI 是否以及如何违反了法律。
存在几项法律来保护非自愿色情图像和儿童性虐待材料（CSAM）的目标对象。去年，《制止传播法》（Take It Down Act）已签署成为联邦法律，该法案将蓄意传播未经同意的私密图像（包括深度伪造）定为刑事犯罪，并要求 X 等平台在 48 小时内删除此类内容。加利福尼亚州也有州长加文·纽森（Gavin Newsom）在 2024 年签署的一系列旨在打击色情深度伪造的法律。
Grok 在去年年底开始响应 X 上的用户请求，生成女性和儿童的色情照片。这一趋势似乎是在一些成人内容创作者提示 Grok 将自己性化图像作为营销手段后兴起的，随后其他用户也发出了类似的提示。在一些公开案例中，包括像“怪奇物语”女演员米莉·波比·布朗（Millie Bobby Brown）这样的知名人物，Grok 对要求以明显色情的方式改变真实女性照片中服装、身体姿势或身体特征的提示做出了回应。
据一些报道称，xAI 已开始实施保障措施来解决这个问题。Grok 现在要求用户在响应某些图像生成请求之前拥有 高级订阅，即使如此，图像也可能不会生成。Copyleaks 营销副总裁艾普丽尔·科曾（April Kozen）告诉 TechCrunch，Grok 可能会以更通用或克制的方式来完成请求。她补充说，Grok 对成人内容创作者似乎更宽松。
“总的来说，这些行为表明 X 正在试验多种机制来减少或控制有问题的图像生成，尽管不一致性仍然存在，”科曾说。
xAI 和马斯克都未公开正面回应这个问题。在事件开始几天后，马斯克似乎通过要求 Grok 生成一张他自己穿比基尼的照片来淡化此事。1 月 3 日，X 的安全账户表示，公司“对 X 上的非法内容（包括 [CSAM]）采取行动”，但没有具体说明 Grok 明显缺乏的安全保障措施或涉及女性色情操纵图像的创建问题。
这一立场与马斯克今天发布的声明相呼应，强调了非法性和用户行为。
马斯克写道，他对“Grok 生成的任何裸体未成年人图像一无所知。字面意义上为零。” 该声明并未否认比基尼照片或更广泛的色情编辑的存在。
纽约法学院副教授、前诉讼律师迈克尔·古德伊尔（Michael Goodyear）告诉 TechCrunch，马斯克很可能只关注 CSAM，因为创建或分发儿童色情合成图像的处罚更严厉。
古德伊尔说：“例如，在美国，根据《制止传播法》，分发或威胁分发 CSAM 的人可能面临最高三年监禁，而对于未经同意的成年人色情图像，则是两年。”
他补充说，“更大的要点”是马斯克试图将注意力引向有问题的用户内容。
马斯克在帖子中写道：“显然，Grok 不会自发地生成图像。它只根据用户请求这样做。”“当被要求生成图像时，它会拒绝生成任何非法内容，因为 Grok 的操作原则是遵守任何特定国家或地区的法律。有时，对 Grok 提示进行对抗性黑客攻击可能会产生意想不到的结果。如果发生这种情况，我们会立即修复这个错误。”
总而言之，该帖子将这些事件定性为罕见的，将其归因于用户请求或对抗性提示，并将其视为可以通过修复来解决的技术问题。它没有承认 Grok 潜在安全设计中的任何缺陷。
古德伊尔说：“监管机构可能会考虑，在关注言论自由保护的同时，要求人工智能开发商采取积极措施来防止此类内容。”
TechCrunch 已联系 xAI，询问他们捕获了多少次未经同意的女性和儿童色情操纵图像，具体更改了哪些保护措施，以及公司是否将此问题通知了监管机构。如果公司作出回应，TechCrunch 将更新本文。
加州总检察长并不是唯一试图让 xAI 对此问题负责的监管机构。《印度尼西亚和马来西亚》都已暂时阻止访问 Grok；印度已要求 X 对 Grok 进行立即的技术和程序更改；欧盟委员会已命令 xAI 保留所有与 Grok 聊天机器人相关的文件，作为启动新调查的前奏；英国在线安全监管机构 Ofcom 已根据英国《在线安全法》对 Grok 色情图像问题展开正式调查。
xAI 此前也因 Grok 的色情图像生成功能而受到抨击。正如邦塔总检察长在声明中所指出的那样，Grok 包含一个“辣味模式”（spicy mode），用于生成露骨内容。去年 10 月，一项更新使得越狱（jailbreak）本就稀少的安全指南变得更加容易，导致许多用户使用 Grok 创建了露骨的色情内容，以及图形化和暴力的色情图像。
Grok 生成的大多数色情图像都是由 AI 生成的人——有些人可能仍然觉得这在道德上有争议，但对图像和视频中的个人来说可能伤害较小。
Copyleaks 联合创始人兼首席执行官阿隆·亚明（Alon Yamin）在一份发送给 TechCrunch 的声明中说：“当人工智能系统允许在没有明确同意的情况下操纵真实人物的图像时，影响可能是直接和深刻的个人化的。”“从 Sora 到 Grok，我们看到了人工智能在操纵媒体方面的能力正在迅速提升。因此，现在比以往任何时候都更需要检测和治理来帮助防止滥用。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区