📢 转载信息
原文链接：https://techcrunch.com/2026/01/12/a-new-jersey-lawsuit-shows-how-hard-it-is-to-fight-deepfake-porn/
原文作者：Russell Brandom
名为ClothOff的应用程序两年多来一直在网络上骚扰年轻女性，而阻止它却异常困难。该应用已从两大应用商店下架，并被大多数社交平台禁止，但它仍然可以通过网络和Telegram机器人获得。去年10月，耶鲁法学院的一个诊所提起了一项诉讼，旨在彻底取缔该应用，迫使所有者删除所有图像并完全停止运营。但仅仅是找到被告就成了一个挑战。
“它在英属维尔京群岛注册成立，”诉讼的联合首席律师约翰·兰福德教授解释说，“但我们相信它由白俄罗斯的一对兄妹运营。它甚至可能是一个更大的全球网络的一部分。”
这是对埃隆·马斯克 xAI 最近大量生成非自愿色情内容（其中包括许多未成年受害者）的痛苦教训。儿童性虐待材料（CSAM）是互联网上法律毒性最强的材料——其制作、传播或存储都是非法的，并且会在每个主要的云服务上定期扫描。但尽管有严格的法律禁令，像ClothOff这样的图像生成器仍然很少有解决办法，正如兰福德的案件所证明的那样。个人用户可能会被起诉，但像ClothOff和Grok这样的平台就更难受到监管，这使得希望在法庭上伸张正义的受害者选择有限。
该诊所的申诉书（可在网上查阅）描绘了一幅令人震惊的图景。原告是新泽西州的一名匿名高中生，她的同学使用ClothOff修改了她的Instagram照片。照片拍摄时她14岁，这意味着AI修改后的版本在法律上被归类为儿童虐待图像。但尽管修改后的图像是明确非法的，当地当局仍拒绝起诉此案，理由是难以从嫌疑人的设备中获取证据。
“学校和执法部门都从未确定过‘珍妮·多伊’和其他女孩的CSAM传播的广泛程度，”申诉书中写道。
尽管如此，此案的进展一直很缓慢。申诉书于10月提交，此后数月里，兰福德和他的同事一直在努力向被告送达传票——鉴于该企业的全球性质，这是一项艰巨的任务。一旦送达，诊所就可以推动开庭和最终判决，但在此期间，法律体系对ClothOff的受害者提供的安慰甚少。
Grok的案件可能看起来是一个更简单的问题。埃隆·马斯克的xAI并非隐藏行踪，对于能赢得诉讼的律师来说，背后有的是金钱。但Grok是一个通用工具，这使得它在法庭上更难被追究责任。
“ClothOff被专门设计和营销为深度伪造色情图像和视频生成器，”兰福德告诉我，“当你在起诉一个用户可以查询各种事情的通用系统时，事情就会变得复杂得多。”
美国已有多项法律禁止深度伪造色情内容——其中最著名的是《Take It Down Act》。但虽然特定用户明显违法，但要让整个平台承担责任要困难得多。现有法律要求有明确的伤害意图证据，这意味着需要提供证据证明xAI知道其工具将被用于制造非自愿色情内容。如果没有这些证据，xAI的基本第一修正案权利将提供显著的法律保护。
“就第一修正案而言，儿童性虐待材料显然不受保护的言论，”兰福德说，“因此，当你设计一个用于创建此类内容的系统时，你显然是在第一修正案保护范围之外运作。但当你是一个用户可以查询各种事情的通用系统时，情况就不那么清楚了。”
克服这些问题的最简单方法是证明xAI故意忽视了这个问题。鉴于最近的报道称马斯克曾指示员工放松Grok的安全防护措施，这是一种真实存在的可能性。但即使如此，这也是一个风险更高的案件。
“理智的人可以说，我们几年前就知道这是一个问题，”兰福德说，“怎么可能没有采取更严格的控制措施来确保这种情况不会发生？这是一种鲁莽或知情，但它只是一个更复杂的案件。”
这些第一修正案问题是xAI面临的最大阻力来自于那些没有强有力言论自由法律保护的法庭系统。印度尼西亚和马来西亚都已采取措施屏蔽对Grok聊天机器人的访问，而英国监管机构已展开调查，可能导致类似禁令。欧盟委员会、法国、爱尔兰、印度和巴西也采取了其他初步措施。相比之下，没有一个美国监管机构发布官方回应。
无法确定这些调查将如何解决，但至少，图像泛滥引发了监管机构需要调查的许多问题——而答案可能很致命。
“如果你发布、传播、散布儿童性虐待材料，你就在违反刑事禁令并可以被追究责任，”兰福德说，“困难的问题是，X知道什么？X做了什么或没做什么？他们现在对此做出了什么回应？”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区