📢 转载信息
原文作者：Michelle Kim
美国国防部与人工智能公司Anthropic之间持续的公开争执，引发了一个深刻且仍未得到解答的问题：法律是否真的允许美国政府对美国人进行大规模监控？
令人惊讶的是，答案并非一目了然。爱德华·斯诺登曝光美国国家安全局收集美国人海量电话元数据已十多年，美国仍在应对普通民众的认知与法律允许范围之间的差距。
Anthropic与政府对峙的焦点是五角大楼希望利用Anthropic的人工智能Claude来分析美国人的海量商业数据。Anthropic要求其AI不得用于国内大规模监控（或不得用于自主武器，即无需人工监督即可杀伤目标的机器）。谈判破裂一周后，五角大楼将Anthropic指定为供应链风险，这一标签通常保留给对国家安全构成威胁的外国公司。
与此同时，ChatGPT的竞争对手AI公司OpenAI 达成了一项协议，允许五角大楼将其AI用于“所有合法目的”—批评人士认为这种说法为国内监控留下了大门。接下来的那个周末，用户们纷纷卸载了ChatGPT。抗议者在旧金山的OpenAI总部涂写信息：“你们的红线是什么？”
OpenAI周一宣布，已修改其协议，以确保其AI不会被用于国内监控。该公司补充说，其服务不会被NSA等情报机构使用。
首席执行官Sam Altman暗示，现有法律禁止国防部（现有时称战争部）进行国内监控，OpenAI的合同只需引用这项法律。“战争部同意这些原则，并在法律和政策中反映这些原则，我们在协议中也将其纳入，”他在X上写道。Anthropic首席执行官Dario Amodei则持相反观点。“在某种程度上，此类监控目前是合法的，这仅仅是因为法律尚未跟上AI的快速发展能力，”他在一份政策声明中写道。
那么，谁是对的？法律是否允许五角大楼利用AI监控美国人？
超级充电的监控
答案取决于我们认为什么构成监控。“很多普通人认为是搜查或监控的事情……实际上在法律上并不被视为搜查或监控，”明尼苏达大学法学院的法律教授Alan Rozenshtein说。这意味着公开信息—如社交媒体帖子、监控录像和选民登记记录—都是合法的。从对外国人的监控中偶然获取的美国人信息也是如此。
最值得注意的是，政府可以从公司购买商业数据，这些数据可能包括敏感的个人信息，如手机位置和网页浏览记录。近年来，从ICE、IRS到FBI和NSA等机构越来越多地利用这个由收集用户数据用于广告的互联网经济驱动的数据市场。这些数据集可以让政府获取通常需要搜查令或传票才能获得的信息，而搜查令和传票是获取敏感个人数据通常的要求。
“政府可以收集大量关于美国人的信息，但这些信息本身并不受宪法（即第四修正案）或法规的管制，”Rozenshtein说。而且，政府对所有这些数据可以做什么没有实质性的限制。
这是因为，直到近几十年来，人们并没有产生庞大的数据云，这些数据云为监控开辟了新的可能性。第四修正案保护人们免受不合理搜查和扣押，但它是在收集信息意味着进入人们家中时制定的。
随后的法律，如1978年的《外国情报监视法》或1986年的《电子通信隐私法》，是在监控涉及窃听电话和拦截电子邮件时制定的。大部分关于监控的法律是在互联网兴起之前就已存在的。我们没有生成大量在线数据轨迹，政府也没有先进的工具来分析这些数据。
现在我们有了，而AI极大地增强了可以进行的监控类型。“AI的作用是，它可以获取大量信息，这些信息本身并不敏感，因此本身不受管制，然后它可以赋予政府以前没有的许多权力，”Rozenshtein说。
AI可以聚合单独的信息片段，大规模地识别模式、得出推论并构建详细的人物画像。只要政府合法地收集信息，它就可以对这些信息做任何它想做的事情，包括将其输入AI系统。“法律尚未跟上技术现实，”Rozenshtein说。
虽然监控可能引起严重的隐私担忧，但五角大楼在收集和分析美国人数据方面可能拥有合法的国家安全利益。“为了收集关于美国人的信息，它必须是为了非常特定的任务，”五角大楼前军事情报官员Loren Voss说。
例如，反间谍任务可能需要关于为外国工作或密谋进行国际恐怖活动的美籍人士的信息。但定向情报有时会延伸到收集更多数据。“这种收集确实会让人感到不安，”Voss说。
合法使用
OpenAI已修订其协议，称公司的人工智能系统“不得有意用于美国公民和国民的国内监控”，这符合相关法律。该修订澄清，这禁止“通过采购或使用商业获取的个人或身份信息，故意跟踪、监控或监视美国公民或国民。”
但添加的措辞可能无法充分推翻五角大楼可以将其AI系统用于所有合法目的的条款，这可能包括收集和分析敏感的个人信息。“OpenAI可以在其协议中说任何它想说的话……但五角大楼会按照它认为合法的方式使用这项技术，”乔治华盛顿大学法学院的法律教授Jessica Tillipman说。这可能包括国内监控。“大多数时候，公司无法阻止五角大楼做任何事情，”她说。
该措辞也留下了一些关于“无意”监控以及对在美国居住的外国国民或无证移民的监控的问题。“当对法律存在分歧，或者法律发生变化时，会发生什么？”Tillipman说。
OpenAI未回应置评请求。该公司尚未公开其新合同的全文。
除了合同之外，OpenAI表示将实施技术保障措施来执行其反对监控的红线，包括一个“安全栈”，用于监控和阻止违禁使用。该公司还表示将部署自己的员工与五角大楼合作并保持信息畅通。但尚不清楚安全栈将如何限制五角大楼使用AI，以及OpenAI的员工将在多大程度上了解其AI系统的使用情况。更重要的是，尚不清楚合同是否赋予OpenAI阻止该技术合法使用的权力。
但这可能并非坏事。让一家AI公司在政府运作期间有权拔掉其技术插头也存在风险。“你不会希望美国军方处于一种他们合法需要采取行动保护国家安全的情况，而一家私营公司却关闭了技术，”Voss说。但她也表示，这并不意味着国会不应该划定明确的界限。
这些问题没有一个简单的答案。它们涉及隐私与国家安全之间极其艰难的权衡。或许正因如此，它们应该由公众来决定——而不是在行政部门和少数几家AI公司之间进行密室谈判。目前，军用AI受到合同的监管，而非立法。
一些议员开始表态。周一，俄勒冈州参议员Ron Wyden将寻求两党支持一项解决大规模监控问题的立法。他一直倡导限制政府购买商业数据的法案，包括《第四修正案非卖品法案》，该法案于2021年首次提出但尚未成为法律。“基于这些数据创建美国人的AI档案，代表了对大规模监控的令人不寒而栗的扩张，不应被允许，”他在最近的一份声明中说。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区