📢 转载信息
原文链接：https://www.wired.com/story/x-didnt-fix-groks-undressing-problem-it-just-makes-people-pay-for-it/
原文作者：Matt Burgess
在创建了数千张“去衣”女性图片和对疑似未成年人的性化图像之后，埃隆·马斯克的X平台似乎限制了谁可以与Grok一起生成图像。然而，尽管做出了改变，该聊天机器人仍在平台上被用于创建“去衣”的性化图像。
周五早上，X上的Grok账户开始回复一些用户的请求，信息称图像生成和编辑“目前仅限于付费订阅用户”。该信息还附带了一个链接，引导用户前往该社交媒体平台每年395美元的订阅套餐。在一次测试系统中请求Grok创建一棵树的图像时，系统返回了相同的信息。
这一表面上的变化是在公众对马斯克的X和Grok聊天机器人背后的公司xAI的愤怒和审查升级几天后出现的。这些公司正面临世界各地监管机构对其创建非自愿露骨图像和涉嫌儿童性图像的越来越多调查。英国首相里希·苏纳克尚未排除在英国禁用X的可能性，并表示这些行为是“非法的”。
X和Grok背后的马斯克拥有的公司xAI均未确认已将图像生成和编辑设为仅付费功能。一位X发言人承认了WIRED的询问，但在发布前未提供评论。X此前曾表示，它会“对X上的非法内容采取行动”，包括涉及儿童性虐待材料的实例。尽管苹果和谷歌此前曾禁止带有类似“裸体化”功能的应用程序，但X和Grok仍然可以在它们各自的应用商店中获取。xAI未立即回应WIRED的置评请求。
一周多以来，X上的用户一直在要求该聊天机器人编辑女性图像以移除她们的衣物——通常要求图像中包含“丁字裤”或“透明”比基尼。虽然周五Grok创建的图像的公开信息流中，这类“去衣”图像的结果少了很多，但当付费的“已验证”账户的用户提示时，它仍然会生成性化图像。
巴黎非营利组织AI Forensics的首席研究员保罗·布沙尔（Paul Bouchaud）告诉WIRED：“我们观察到同一种提示，观察到同一种结果，只是数量比以前少了。”他们说，“该模型可以继续生成比基尼[图像]。”
WIRED周五早上对X上的一些Grok帖子进行的审查发现，Grok响应了用户关于“让她穿上乳胶内衣”和“让她穿上塑料比基尼并全身涂满甜甜圈白釉”的请求。这些图像显示在一个说正在显示成人材料的“内容警告”框后面。
周三，WIRED披露，Grok的独立网站和应用（与X上的版本是分开的）近几个月也被用于创建高度露骨甚至暴力的色情视频，包括涉及名人和其它真实人物的视频。布沙尔说，仍然有可能使用Grok制作这些视频。“我能够未经限制地从一个未经验证的账户生成一个含有色情内容的视频，”他们说。
虽然WIRED使用免费账户在X上测试Grok图像生成时，不允许创建任何图像，但使用Grok应用和网站的免费账户仍然生成了图像。
专家表示，X上的这一改变可能会立即限制该平台正在创建的色情和有害材料的数量。但它也因被视为一个微不足道的举动，只是对非自愿亲密图像造成的实际伤害进行“创可贴式”的修复而被批评。
英国国内虐待慈善机构Refuge的技术促进虐待主管艾玛·皮克林（Emma Pickering）在一份声明中说：“最近限制访问付费订阅用户的决定不仅是远远不够的——它代表了对滥用的商业化。”她说，“虽然将AI图像生成限制给付费用户可能会稍微减少数量并提高可追溯性，但虐待行为并未停止。它只是被放在了付费墙后面，允许X从伤害中获利。”
据BBC报道，英国政府也表示，将图像生成限制为仅限付费账户的改变对受影响的人来说是“侮辱性”的。他们说，这“只是将允许创建非法图像的AI功能变成了一项高级服务。”
追踪有害技术使用的深度伪造专家亨利·艾德（Henry Ajder）表示：“虽然这可能允许X与执法部门共享有关犯罪分子的信息，但它没有解决模型的根本问题——即能力和对齐问题。”他说，“仅用一个月的会员费，我很可能仍然可以用一个假名和一次性支付方式来创建冒犯性内容。”
AI Forensics的布沙尔说：“他们本可以移除滥用材料，但他们没有。”“他们本可以禁用Grok生成图像的功能，但他们没有。他们本可以禁用Grok应用程序生成色情视频的功能。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区