📢 转载信息
原文作者：Lucas Ropek
本周早些时候，加利福尼亚州总检察长办公室宣布，它正在调查xAI公司，原因是有报道称该初创公司的聊天机器人Grok被用于创建未经同意的女性和未成年人的色情图像。周五，政府采取了后续行动，向该公司发送了“停止和终止”（cease-and-desist）信函，要求其立即采取行动，停止生产未经同意的私密图像和CSAM（儿童色情材料）。
加州总检察长罗布·邦塔（Rob Bonta）在一份新闻稿中表示：“今天，我向xAI发送了一封‘停止和终止’信函，要求该公司立即停止创建和分发深度伪造的、未经同意的私密图像以及儿童色情材料。”他补充道：“创建此类材料是违法的。我完全期望xAI立即遵守规定。加州对[CSAM]采取零容忍政策。”
总检察长的办公室还声称，xAI似乎在“促成大规模生产”未经同意的裸照，此类照片正被“用于骚扰互联网上的妇女和女孩”。该机构表示，它期望xAI在未来五天内证明它正在采取措施解决这些问题。
这场反对浪潮的核心是Grok的“spicy”（火辣）模式功能，xAI创建该功能是为了生成露骨内容。此问题已蔓延至加州以外；日本、加拿大和英国已对Grok展开调查，马来西亚和印度尼西亚已暂时封禁了该平台。尽管xAI在周三深夜对图像编辑功能实施了一些限制，但加州总检察长的办公室仍推进了其“停止和终止”信函。
X的安全账号此前曾谴责此类用户活动，表示：“任何使用或提示Grok制造非法内容的人，将遭受与上传非法内容相同的后果。”TechCrunch联系xAI寻求评论，收到的自动回复邮件显示“传统媒体撒谎”（Legacy Media Lies）。TC也联系了加州总检察长办公室以获取更多信息。
免费生成式AI工具的出现，导致了令人不安的未经同意的色情材料激增。许多平台都在努力应对这一问题，而不仅仅是X。这种龌龊的行为不仅引起了州领导人的注意，也引起了国会的关注。事实上，周四，国会议员们致信多家公司的高管——包括X、Reddit、Snap、TikTok、Alphabet和Meta——询问他们计划如何遏制色情深度伪造内容的扩散。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区