📢 转载信息
原文链接：https://www.wired.com/story/ai-lab-scout-ai-is-using-ai-agents-to-blow-things-up/
原文作者：Will Knight
与如今许多 硅谷 公司一样，Scout AI 正在训练大型 AI 模型和 智能体 来自动化家务。最大的不同在于，Scout AI 的智能体不是用来编写代码、回复电子邮件或在线购物，而是设计用于在物理世界中通过爆炸无人机来搜寻和摧毁物体。
在最近于加利福尼亚州中部一个未公开的军事基地进行的演示中，Scout AI 的技术负责一辆自动驾驶的越野车和一对致命的无人机。这些智能体利用这些系统找到了一个隐藏在该区域的卡车，然后用爆炸物将其炸得粉碎。
Scout AI 的首席执行官 Colby Adcock 在最近的一次采访中告诉我（Adcock 的兄弟 Brett Adcock 是致力于人形机器人初创公司 Figure AI 的首席执行官）：“我们需要将下一代 AI 应用于军队。”“我们采用一个超大规模基础模型，并训练它从一个通用的聊天机器人或智能体助手，转变为一名战士。”
Adcock 的公司是新一代初创企业中的一员，它们正竞相将大型 AI 实验室的技术应用于战场。许多政策制定者认为，利用 AI 将是未来军事主导权的关键。AI 的作战潜力是美国政府寻求限制向中国销售先进 AI 芯片和芯片制造设备的原因之一，尽管特朗普政府最近选择放宽了这些控制。
宾夕法尼亚大学教授 Michael Horowitz 曾在美国国防部担任部队发展和新兴能力副助理部长，他说：“国防科技初创企业推动 AI 集成，对国家有益。”“如果美国要在军事 AI 采用方面保持领先地位，这正是他们应该做的。”
然而，Horowitz 也指出，实际应用最新的 AI 进展可能会非常困难。
大型语言模型本质上是不可预测的，而 AI 智能体——就像控制流行 AI 助手 OpenClaw 的智能体一样——即使在执行像在线订购商品这样相对良性的任务时也可能会行为不端。Horowitz 认为，要证明此类系统在网络安全方面是稳健的，可能尤其困难——而这是广泛军事应用所必需的。
Scout AI 最近的演示涉及 AI 完全控制作战系统的多个步骤。
在任务开始时，向一个名为 Fury Orchestrator 的 Scout AI 系统输入了以下指令：
Fury Orchestrator，向 ALPHA 检查站发送 1 辆地面车辆。执行 2 架无人机动能打击任务。摧毁机场以东 500 米处的蓝色卡车并发送确认信息。
一个相对较大的 AI 模型，拥有超过 1000 亿个参数，可以运行在安全的云平台或现场的隔离计算机上，负责解释初始命令。Scout AI 使用了一个未公开的开源模型，并移除了其限制。该模型随后充当智能体，向地面车辆和参与演习的无人机上运行的较小的、拥有 100 亿个参数的模型发出命令。较小的模型本身也充当智能体，向控制车辆移动的低级 AI 系统发出自己的命令。
收到行军命令几秒钟后，地面车辆沿着一条蜿蜒穿过灌木和树木的土路疾驰而去。几分钟后，车辆停了下来，派出了两架无人机，无人机飞向被告知目标等待的区域。发现卡车后，运行在其中一架无人机上的 AI 智能体发出指令，使其向卡车飞去，并在撞击前不久引爆爆炸物。
美国和其他军队已经拥有能够在有限参数内自主行使致命武力的系统。批评人士称，现成的 AI 可能会使自主系统部署得更广泛，且安全保障措施更少。一些军备控制专家和 AI 伦理学家警告说，使用 AI 控制武器系统将引入新的复杂性和伦理风险，例如当 AI 需要决定谁是战斗人员、谁不是时。
乌克兰战争已经表明，像消费级无人机这样的廉价现货硬件可以多容易地被改造用于致命战斗。其中一些系统已经具备先进的自主性，尽管人类通常会做出关键决策以确保可靠性。
Scout AI 的联合创始人兼首席技术官 Collin Otis 表示，该公司的技术旨在遵守美国军方的交战规则以及《日内瓦公约》等国际准则。Adcock 表示，Scout AI 已经与国防部签订了四份合同，并且正在竞标一份新合同，以开发一个用于控制无人机群的系统。他补充说，该技术需要一年或更长时间才能准备好部署。
Adcock 认为，更高的自主性使 Scout AI 的系统如此有前景。“这就是我们与传统自主系统不同的地方，”他说。那些系统“无法根据其看到的信息和指挥官的意图在边缘重新规划，它只是盲目地执行操作。”一个可以自由解释命令的 AI 系统的概念也引发了人们对意外后果的担忧。
然而，与常规软件智能体一样，真正的挑战在于将令人印象深刻的演示转化为可靠的系统。“我们不应该把他们的演示与具有军事级可靠性和网络安全能力的已部署能力相混淆，”Horovitz 说。
这是Will Knight的 AI Lab 时事通讯的一期。可以在此处阅读以往的时事通讯。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区