📢 转载信息
原文链接：https://www.wired.com/story/the-state-led-crackdown-on-grok-and-xai-has-begun/
原文作者：Maddy Varner, Manisha Krishnan
美国至少有37个州和地区的总检察长在人们今年早些时候使用xAI的聊天机器人Grok生成大量对女性和未成年人的性化图像后，正在对xAI采取行动。
周五，一个由35名总检察长组成的跨党派团体向xAI发布了一封公开信函，要求其“立即采取所有可用的额外措施来保护公众和贵平台的用户，特别是那些非自愿亲密图像的绝大多数目标，即女性和女孩。”（除了签署信函的人之外，加利福尼亚州和佛罗里达州的总检察长告诉WIRED，他们也已经采取了行动。）
这封信是在全球监管机构关注Grok用户创建未经同意的亲密深度伪造图像以及儿童性化图像的浪潮中发出的。
反数字仇恨中心（Center for Countering Digital Hate）最近的一份报告估计，在12月29日开始的11天时间里，Grok在X上的账户生成了大约300万张逼真的性化图像，其中包括大约23,000张儿童性化图像。WIRED此前报道，除了使用Grok的X账户创建这些照片外，人们还在使用Grok网站上可用的Grok Imagine模型生成更多露骨的视频。与X不同的是，Grok网站似乎在允许人们查看内容之前，不需要任何形式的年龄验证。
X没有回应置评请求。xAI对WIRED的问题回复称：“传统媒体撒谎（Legacy Media Lies）。”
总检察长们的公开信（该信引用了WIRED的报道）称，xAI将Grok创建非自愿性图像的能力用作“卖点”。
尽管xAI声称已经阻止了Grok在X上的账户进行“脱衣”操作，但信中指出，该公司尚未删除非自愿创建的内容，“尽管你很快就会根据联邦法律有义务这样做。”信中还呼吁xAI移除Grok描绘人物穿着暴露或摆出暗示性姿势的能力，暂停违规用户并将其报告给当局，并使用户能够控制其内容是否可以被Grok编辑。
信中写道：“除了在该领域的调查和起诉外，我们还呼吁支付处理商和搜索引擎减轻非自愿亲密图像的创建，并倡导制定立法以防止由AI驱动的儿童剥削。”
X和Grok.com上非自愿亲密深度伪造内容的泛滥正值美国一半的州已经通过了年龄验证法，要求查看色情内容的个人提供证明，证明他们不是未成年人。
WIRED联系了已通过年龄验证的25个州的总检察长办公室，询问他们如何应对Grok和X上涌现的大量非自愿性化图像。WIRED还联系了这些州年龄验证法案的提案人，询问他们是否认为X或xAI应该做更多工作，以防止儿童在X和Grok.com上查看露骨内容。
一些WIRED联系的总检察长办公室表示，他们正在调查或与X或xAI进行讨论，专门针对Grok被用于生成儿童性虐待材料（CSAM）的担忧。根据儿童倡导组织Enough Abuse的数据，45个州禁止AI生成或经计算机编辑的CSAM。
亚利桑那州总检察长Kris Mayes的传播总监Richie Taylor告诉WIRED，Mayes于1月15日对Grok展开了调查。在关于该调查的新闻稿中，该稿件引用了WIRED的报道，Mayes表示有关图像创建的报告“令人深感不安”。Mayes是周五联合信函的签署人之一。
“科技公司不能逍遥法外，创建强大的人工智能工具，然后在这些程序被用于创建儿童性虐待材料时袖手旁观。我的办公室正在展开调查，以确定是否违反了亚利桑那州的法律，”她在新闻稿中说，并呼吁相信自己受到Grok侵害的亚利桑那州居民联系她的办公室。
加利福尼亚州总检察长Rob Bonta于1月16日向埃隆·马斯克发送了一封停止并终止信函，要求xAI立即采取行动，通过X上的Grok账户和独立的Grok应用程序，停止创建和分发CSAM或非自愿亲密图像。加州司法部新闻秘书Elissa Perez表示，xAI已正式回复了总检察长的信函，现在“我们有理由相信，在获得额外核实的情况下，Grok目前没有被用于生成任何儿童性图像或违反加州法律的图像。”加州的调查仍在进行中。
佛罗里达州总检察长办公室新闻秘书Jae Williams告诉WIRED，该办公室“目前正在与X进行讨论，以确保儿童保护措施到位，并防止其平台被用于生成CSAM。”
密苏里州总检察长办公室传播主任Stephanie Whitaker表示，该州“有责任确保X和其他社交媒体公司遵守州法律。从犯罪活动的温床中获利的公司可能会发现自己负有责任。”
儿童安全与人工智能的交叉点一直是州立法者持续关注的领域。12月初，42位总检察长联名致信包括xAI在内的AI公司，要求这些公司“采取额外的保障措施来保护儿童”。1月14日，一个由许多相同州总检察长办公室代表组成的工作组会面，讨论与人工智能相关的突发问题。
会议期间，北卡罗来纳州总检察长Jeff Jackson表示，AI生成的CSAM“应成为优先事项”。Jackson是周五信函的签署人之一。
亚利桑那州众议员、共和党人Nick Kupper告诉WIRED，他最近提交了一项法案，将要求发布露骨内容（包括AI生成的图像）的网站在发布前验证表演者的年龄和同意情况；该州去年已将AI生成的CSAM定为犯罪。
佐治亚州参议院多数党领袖Jason Anavitarte在给WIRED的声明中表示，该州正“与现有法规一起积极努力，为由AI生成的自愿性图像制定额外的保护措施”。
“本届会议将提出立法，以便对涉及未成年人的淫秽材料（包括AI生成的性材料）进行刑事起诉，重点关注那些使用AI工具创建图像的人，”他说。
与此同时，已实施年龄验证法的州正在努力应对这些法律可能如何适用于像X这样并非预期目标的网站。
几乎所有实施年龄验证的州都遵循了路易斯安那州（2022年通过该法案）的模式——要求一个给定网站上超过三分之一的内容被视为色情或对未成年人有害，限制措施才会生效。
但是，如何确定什么是内容的一部分——或者某物是否被视为色情内容呢？
电子隐私信息中心执行主任Alan Butler此前告诉WIRED：“这主要是一个关于‘法律是否适用’的计数问题。”
Kupper，也是亚利桑那州年龄验证法的提案人，告诉WIRED，他坚持三分之一的门槛是因为它先前已得到美国最高法院的支持。他说他听说估计有15%到25%的X账户至少在某种程度上是色情的，但他不确定准确性如何，也不认为分析每个网站的此类比例是“可行的”。X没有回应关于其平台色情内容所占百分比的问题。
“我不认为应该有一个门槛。应该是：你的网站上有色情材料吗？好吧。我不是说你必须对你的整个网站进行年龄验证，但对于任何色情材料，你都应该进行年龄验证，”Kupper说。X上标记为“年龄限制的成人内容”的帖子只能由年满18岁的登录用户查看，尽管X通常期望**上传受限内容的**用户自己将其标记为露骨内容。WIRED未能发现Grok网站上的色情链接有类似的限制。
Kupper说，在亚利桑那州的情况下，个人需要提出投诉——例如，如果他们的孩子在X上的色情材料中受到伤害——然后法院将不得不要求X证明其内容中色情材料的比例低于三分之一。
Pornhub是全球最大的色情网站之一，它已对大多数实施年龄验证的州采取了屏蔽措施，理由是存在太多不合规的网站，并且人们不愿向第三方网站提供身份证件和个人信息以进行年龄验证。它也将根据英国的年龄验证法（该法案于去年7月生效）对新英国用户实施屏蔽。
周二，Pornhub母公司Aylo的私募股权公司Ethical Partners Capital（ECP）合规副总裁Solomon Friedman告诉WIRED，年龄验证立法的方法论和范围都是“致命的缺陷”。
他说，例如，谷歌图片缓存了“在线可用的每一张色情图片的缩略图”。Friedman和Pornhub希望谷歌、苹果和微软实施基于设备的年龄验证，以便人们的数据可以保留在他们的手机或笔记本电脑中。
“这也是解决‘非色情’网站和平台上成人内容的解决方案。它可以用来过滤X上的露骨推文或帖子，或者聊天机器人的露骨使用。”
WIRED已联系谷歌、微软和苹果，询问他们是否愿意接受基于设备的年龄验证，但尚未收到回复。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区