📢 转载信息
原文链接：https://www.wired.com/story/openai-defense-department-ban-military-use-microsoft/
原文作者：Maxwell Zeff
OpenAI曾禁止军事用途，五角大楼却仍通过微软测试其模型
OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）本周依然处于舆论风口浪尖，此前他的公司与美国军方签署了一项协议。在AI公司Anthropic与五角大楼约2亿美元的合同破裂后，OpenAI的员工对这项新协议提出了批评，并要求阿尔特曼就该协议披露更多信息。阿尔特曼在社交媒体上承认，此举看起来“很草率”。
尽管这件事已成为重大新闻，但它可能只是OpenAI围绕美国军方如何获取其AI这一模糊政策的最新、也是最公开的例子。
2023年，OpenAI的使用政策明确禁止军方访问其AI模型。但据两位知情人士透露，一些OpenAI员工发现，五角大楼已经开始试用Azure OpenAI，这是微软提供的OpenAI模型版本。当时，微软与国防部已有数十年的合作关系。微软也是OpenAI最大的投资者，并获得了商业化这家初创公司技术的广泛许可。
据消息人士称，同在2023年，OpenAI的员工看到五角大楼的官员在公司旧金山办公室里走动。他们要求匿名，因为他们无权评论公司内部事务。
一些OpenAI员工对与五角大楼合作持谨慎态度，而另一些人则对OpenAI的使用政策究竟意味着什么感到困惑。该政策是否适用于微软？尽管消息人士告诉WIRED，当时大多数员工并不清楚，但OpenAI和微软的发言人表示，Azure OpenAI产品并未，也未曾受到OpenAI政策的约束。
“微软有一款名为Azure OpenAI Service的产品，该产品于2023年向美国政府提供，并受微软服务条款的约束，”微软发言人弗兰克·肖（Frank Shaw）在给WIRED的声明中说。微软拒绝就何时向五角大楼提供Azure OpenAI发表具体评论，但指出该服务直到2025年才获得“绝密”政府任务的批准。
OpenAI发言人丽兹·布尔吉斯（Liz Bourgeois）在一份声明中表示：“AI已经在国家安全领域发挥着重要作用，我们认为在场参与，以确保它得到安全和负责任的部署至关重要。在开展这项工作时，我们一直对员工保持透明，提供定期更新和专门的渠道，让团队能够提问并直接与我们的国家安全团队互动。”
美国国防部未回应WIRED的置评请求。
到2024年1月，OpenAI更新了其政策，取消了对军事使用的全面禁令。据消息人士称，几位OpenAI员工通过The Intercept的一篇文章获悉了这一政策更新。随后，公司领导层在全员大会上讨论了这一变化，解释了公司将如何谨慎地处理这一领域。
2024年12月，OpenAI宣布与Anduril建立合作伙伴关系，共同开发和部署用于“国家安全任务”的AI系统。据同一消息来源称，在宣布之前，OpenAI告知员工，该合作伙伴关系范围有限，仅涉及非保密工作负载。这与Anthropic与Palantir签署的协议形成对比，后者将使用Anthropic的AI处理军事机密工作。
OpenAI发言人向WIRED证实，Palantir在2024年秋季曾接触OpenAI，讨论参与其“FedStart”计划。据两位知情人士透露，该公司最终拒绝了，并告知员工这风险太高。然而，OpenAI现在与其他方式与Palantir合作。
据消息人士称，在Anduril协议宣布前后，有几十名OpenAI员工加入了一个公开的Slack频道，讨论他们对公司军事合作的担忧，发言人也证实了这一点。一些人认为公司的模型过于不可靠，无法处理用户的信用卡信息，更不用说在战场上协助美国人了。
并非所有人都分享他们的担忧。其他员工认为，与Anduril的合作表明公司将负责任地处理其军事合作。“到目前为止，OpenAI在广泛的机密部署方面一直采取‘三思而后行’的方法。员工们正在就什么样的方法符合国家安全使命进行讨论，”一位现任OpenAI研究员告诉我。
部分原因在于，OpenAI最新的五角大楼协议在员工中引起了分歧。尽管阿尔特曼公开表示支持Anthropic的红线——即不允许其AI用于大规模合法监控或开发自主武器——但据外部法律专家称，公司的协议似乎为这些活动留下了空间。
“这一切中最大的输家是普通民众和冲突地区的平民，”OpenAI前地缘政治团队负责人莎拉·舒克（Sarah Shoker）在上周的Substack帖子中表示。“由于技术设计和政策造成的层层不透明，我们理解军事AI在战争中作用的能力受到了严重阻碍。一切都是黑箱。”
法律与AI研究所高级研究员查理·布洛克（Charlie Bullock）告诉WIRED，OpenAI的公开声明表明，五角大楼可能被允许进行技术上被视为合法的监控形式，例如从第三方公司购买美国人的用户数据并用AI进行分析。OpenAI后来修改了协议条款以解决这一具体担忧，尽管布洛克指出，在看不到协议的全部条款的情况下，公众基本上只能相信OpenAI的说法。
“周末期间，OpenAI/国防部协议中的原始措辞引发了一些合理的疑问，尤其是在AI可能支持合法监控的某些新颖方式方面，”OpenAI研究员诺姆·布朗（Noam Brown）在社交媒体帖子中写道。布朗继续表示，他现在正计划“更深入地参与OpenAI的政策制定”。
在OpenAI取消对军事使用的全面禁令仅仅两年多后，该公司似乎已经拥抱了国防合作伙伴关系。周二的全员大会上，阿尔特曼据报道告诉员工，该公司无权决定国防部如何使用其人工智能软件。阿尔特曼还表示，他有兴趣将公司的AI模型出售给北约。
这是Model Behavior 邮件通讯的一部分。在此处阅读之前的通讯。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区