📢 转载信息
原文链接：https://www.wired.com/story/open-ai-artificial-intelligence-open-weight-model/
原文作者：Paresh Dave
当 OpenAI 在今年八月发布其多年来的首批开源权重模型时，不仅仅是科技公司在关注。该发布也让美国军方和国防承包商感到兴奋，他们看到了将其用于高度安全操作的机会。
一些军方供应商告诉 WIRED，初步结果显示，OpenAI 的工具在所需能力方面落后于竞争对手。但他们仍然很高兴，来自一个关键行业领导者的模型终于成为他们的一个选择。
Lilt 是一家人工智能翻译公司，与美国军方签订合同分析外国情报。由于该公司的软件处理敏感信息，它必须安装在政府服务器上，并且在没有互联网连接的情况下运行，这种做法被称为“气隙隔离”（air-gapping）。Lilt 此前开发了自己的 AI 模型，或使用了 Meta 的 Llama 和 Google 的 Gemma 等开源选项。但 OpenAI 的工具一直不在考虑之列，因为它们是闭源的，只能在线访问。
这家 ChatGPT 制造商的新开源权重模型 gpt-oss-120b 和 gpt-oss-20b 改变了这一状况。两者都可以本地运行，这意味着用户可以自由地将它们安装在自己的设备上，而无需连接云端。通过访问模型的权重——决定它们对不同提示词如何反应的关键参数——用户可以为特定目的定制它们。
OpenAI 重返开源市场最终可能会增加竞争，并为军方、医疗保健公司以及其他处理敏感数据的组织带来性能更好的系统。在麦肯锡最近对大约 700 名企业领导者进行的一项调查中，超过 50% 的人表示他们的组织正在使用开源 AI 技术。模型根据其训练方式具有不同的优势，组织通常会组合使用多个模型，包括开源权重模型，以确保在各种情况下都能保持可靠性。
道格·马蒂（Doug Matty），特朗普政府用来指代国防部的“战争部”（Department of War）的首席数字和人工智能官表示，五角大楼计划将生成式 AI 整合到战场系统和诸如审计等后台职能中。他说，其中一些应用需要不依赖云端的模型。“我们的能力必须是可适应和灵活的，”马蒂说。
OpenAI 未对有关其开源模型可能如何被国防工业使用的请求置评。去年，该公司撤销了对其技术可用于军事和战争应用的广泛禁令，此举引发了那些担心 AI 造成危害的活动人士的批评。
对 OpenAI 而言，提供一个免费和开放的模型可能有几个好处。易于访问的特性可以培养出更大规模的其技术专家社区。而且由于用户无需注册成为正式客户，他们可能能够秘密操作，这可以使 OpenAI 免受对其潜在有争议客户（比如军方）的批评。
早些时候，马蒂在五角大楼的部门与 OpenAI、埃隆·马斯克的 xAI、Anthropic 和谷歌签订了每份价值高达 2 亿美元的一年期协议。目标是为不同目的创建 AI 系统的原型，包括自动化作战工具。直到 OpenAI 最近发布之前，谷歌是唯一提供开源尖端模型的新的技术合作伙伴。其他公司许可的模型是从云端运行的，并且不能像开源模型那样进行最大程度的定制。
就 Lilt 而言，首席执行官斯宾塞·格林（Spence Green）表示，一名军事分析师可能会输入一个提示词，比如“将这些文件翻译成英语，并确保没有任何错误。然后让最了解高超音速武器的人来核实工作。” Lilt 专为政府应用训练的专有模型负责翻译。谷歌的 Gemma 目前负责自动路由哪些信息应发送给哪些模型、分析师和其他团队。目标是解决语言专家短缺和需要处理的数据积压问题。
OpenAI 最新的开源模型并不适合 Lilt 的需求。它们只处理文本，而军方还需要处理图像和音频。Lilt 还发现这些模型在某些语言和计算能力有限的情况下性能欠佳。但这些结果并没有让格林气馁。格林说：“有了 gpt-oss，现在有很多模型在竞争。‘选择越多越好。’”
其他与军方合作的公司表示，他们从 gpt-oss 模型中获得了良好的结果，但他们没有听说有任何五角大楼项目在使用这些模型后已超出演示阶段。“这还很早，”Jordan Wiens 说，他是 Vector 35 的联合创始人，该公司向五角大楼提供逆向工程工具，并已将 gpt-oss 集成到其产品中。
EdgeRunner AI 正在为军方开发一款无需连接云端的虚拟个人助理。据该公司 10 月份发表的一篇论文显示，在向其输入一批军事文件以修改其能力后，它使用 gpt-oss 实现了足够的性能。EdgeRunner 的首席执行官泰勒·萨尔茨曼（Tyler Saltsman）表示，美国陆军和空军将于本月开始测试修改后的模型。
在需要立即响应或互联网干扰可能成为问题的场合，开源模型可能特别有价值。乔治城大学安全与新兴技术中心的研究分析师凯尔·米勒（Kyle Miller）表示，这包括在无人机或卫星上运行的 AI 系统。他说，开源 AI 模型为军方提供了“封闭模型所不具备的可访问性、控制力、可定制性和隐私性”。
除了与 AI 提供商的直接交易外，美国军方还可以通过一个名为 Ask Sage 的中介 AI 平台使用大约 125 个开源模型和大约 25 个封闭模型，该平台创始人兼美国空军和太空军前首席软件官尼古拉斯·查伊兰（Nicolas Chaillan）说。
查伊兰表示，使用开源模型对美国军方来说存在严重的缺点。他声称，与最好的商业模型相比，它们出现“幻觉”和做出错误预测的频率更高。而且，虽然大多数用途的开源模型通常是免费的，但运行最大模型的必要基础设施最终可能会花费与通过云许可商业模型相同的费用，甚至更高。“这就像从博士水平退化到猴子，”查伊兰说。“如果你花更多的钱却得到了一个更差的模型，那就毫无意义了。”
他认为，军方应该关注开源模型，但应将重点放在使用微软、亚马逊和谷歌通过专门为敏感政府任务开发的云网络提供的更强大的选项上。
其他军方供应商和专家则持有不同意见，他们认为封闭模型可能导致依赖性问题，并且无法满足武装部队的“量身定制”需求。
Pete Warden 运营着转录和翻译技术开发商 Moonshine。他说，在目睹了马斯克如何利用其 Starlink 卫星网络来影响政府领导人之后，他在国防界的关系人士对信任大型科技公司变得更加谨慎。“独立于供应商至关重要，”Warden 说。他的解决方案是允许政府机构以一次性费用的代价控制 Moonshine 模型的永久副本。
威廉·马塞利诺（William Marcellino）是 RAND 研究组织的人工智能应用开发者。他说，更容易控制的开源模型将有助于军方和间谍机构进行诸如将影响行动材料翻译成区域方言等项目，而通用商业模型可能难以精确执行此类任务。“拥有选择是件好事，”他说。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区