📢 转载信息
原文作者：James O'Donnell
据MIT Technology Review获悉，五角大楼正讨论制定计划，为生成式AI公司建立安全环境，以便在机密数据上训练军事专用版本的模型。
目前，像Anthropic的Claude这样的AI模型已在机密环境中用于回答问题，例如分析伊朗的目标。然而，允许模型在机密数据上进行训练和学习将是一个新进展，并带来独特的安全风险。这意味着像监控报告或战场评估这样的敏感情报可能会被嵌入到模型本身中，并且AI公司将比以往任何时候都更密切地接触机密数据。
AI模型在机密数据上训练以提高效率
据一位不愿透露姓名的美国国防部官员向MIT Technology Review透露，在机密数据上训练AI模型的版本，预计将使它们在某些任务上更加准确和有效。这一消息传出的时机正值对更强大模型的需求高涨之际：五角大楼已与OpenAI和埃隆·马斯克的xAI达成协议，允许在其机密环境中使用其模型，并正在实施一项新的议程，力求成为一支“AI优先”的作战力量，以应对与伊朗日益加剧的冲突。（截至出版时，五角大楼未对其中期AI训练计划发表评论。）
据两位熟悉此类操作方式的人士称，训练将在一个已获批准托管机密政府项目的安全数据中心进行，其中AI模型的一个副本将与机密数据配对。该官员表示，虽然国防部将继续拥有数据所有权，但在极少数情况下，如果AI公司人员拥有适当的安全许可，他们可能会访问这些数据。
然而，这位官员表示，在允许这种新训练之前，五角大楼打算评估模型在非机密数据（如商业卫星图像）上训练时的准确性和有效性。
军方长期以来一直使用计算机视觉模型（一种较早的AI形式）来识别其从无人机和飞机收集的图像和视频中的物体，联邦机构也授予合同给公司，以便用此类内容训练AI模型。构建大型语言模型（LLMs）和聊天机器人的AI公司也创建了针对政府工作的定制模型版本，例如Anthropic的Claude Gov，旨在支持更多语言并在安全环境中运行。但这位官员的评论首次表明，像OpenAI和xAI这样的LLM构建公司，可能会直接在机密数据上训练政府专用的模型版本。
新的安全风险
战略与国际研究中心（Center for Strategic and International Studies）沃德瓦尼AI中心（Wadhwani AI Center）主任、曾在美国和OpenAI领导AI政策工作的Aalok Mehta表示，与仅仅回答关于机密信息的问题相比，在机密数据上进行训练会带来新的风险。
他认为，其中最大的风险是，模型训练时使用的机密信息可能会被重新暴露给任何使用该模型的人。如果许多拥有不同分类级别和信息需求的军事部门共享同一个AI，这将是一个问题。
“你可以想象，例如，一个模型访问了某种敏感的人类情报——比如某个特工的名字——然后将这些信息泄露给国防部中不应该访问这些信息的部分，”Mehta说。这可能对特工造成安全风险，如果军队中的多个部门使用同一模型，这种风险将很难完全规避。
然而，Mehta表示，将信息与更广泛的世界隔离开来并非不可能：“如果你正确设置了这一点，那么这些数据被暴露在互联网上或返回到OpenAI的风险将非常小。”政府已经具备了这方面的部分基础设施；安全巨头Palantir赢得了大量合同，用于构建一个安全环境，官员们可以通过该环境向AI模型询问机密话题，而无需将信息发送回AI公司。但将这些系统用于训练仍然是一个新的挑战。
AI在军事领域的应用
在国防部长 Pete Hegseth 一月份的一份备忘录的推动下，五角大楼一直在竞相整合更多AI。AI已被用于作战，生成式AI已用于对目标进行排序并推荐优先打击目标，以及在更行政的角色中，如起草合同和报告。
Mehta说，目前由人类分析师处理的许多任务，军方可能希望训练领先的AI模型来执行，并且这些任务需要访问机密数据。这可能包括学习像分析师那样识别图像中的细微线索，或将新信息与历史背景联系起来。这些机密数据可能来自情报部门收集的海量文本、音频、图像和视频，涵盖多种语言。
Mehta警告说，很难说哪些具体的军事任务需要AI模型在如此多的数据上进行训练，“因为很明显，国防部有很大的动机来保密这些信息，而且他们不希望其他国家确切地知道我们在这一领域的具体能力。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区