📢 转载信息
原文链接：https://www.wired.com/story/anthropic-claude-takes-control-robot-dog/
原文作者：Will Knight
随着越来越多的机器人开始出现在仓库、办公室甚至人们的家中，大型语言模型侵入复杂系统的想法听起来像是科幻小说的噩梦。因此，Anthropic 的研究人员自然很热衷于观察当 Claude 尝试接管一台机器人——在这种情况下，是一只机器狗——时会发生什么。
在一项新研究中，Anthropic 的研究人员发现，Claude 能够自动化对机器人进行编程以及让其执行物理任务所需的大部分工作。从一个层面看，他们的发现展示了现代AI模型的代理式编程能力。从另一个层面看，它暗示了随着模型掌握更多编程方面的内容并更好地与软件（以及物理对象）交互，这些系统可能会开始延伸到物理领域。
研究模型潜在风险的 Anthropic 红队成员 Logan Graham 告诉 WIRED：“我们怀疑AI模型的下一步是开始向外探索世界并更广泛地影响世界。”“这确实需要模型与机器人进行更多的接口交互。”
Anthropic 成立于 2021 年，由前 OpenAI 员工创立，他们相信随着人工智能的发展，它可能会变得有问题，甚至是危险的。Graham 说，今天的模型还不够智能，无法完全控制机器人，但未来的模型可能会做到。他表示，研究人们如何利用 LLM 对机器人进行编程，可以帮助业界为“模型最终自我具身化”做好准备，指的是人工智能未来可能操作物理系统的概念。
目前尚不清楚为什么 AI 模型会决定控制机器人——更不用说用它做一些恶意的事情了。但推测最坏情况是 Anthropic 品牌的一部分，这有助于将该公司定位为负责任的AI运动的关键参与者。
在代号为“Project Fetch”的实验中，Anthropic 要求两组没有机器人经验的研究人员控制一台 Unitree Go2 四足机器人，并对其进行编程以执行特定的活动。团队获得了控制器的访问权限，然后被要求完成难度递增的任务。一组使用了 Claude 的编程模型，另一组则在没有 AI 协助的情况下编写代码。使用 Claude 的团队比纯人类编程团队更快地完成了一些任务（尽管不是全部）。例如，它能让机器人四处走动并找到一个沙滩球，这是纯人类团队无法做到的。
Anthropic 还通过录制和分析两个团队的互动来研究协作动态。他们发现，没有使用 Claude 的团队表现出更多的负面情绪和困惑。这可能是因为 Claude 使连接机器人和编写更容易使用的界面变得更快。
Anthropic 实验中使用的 Go2 机器人售价 16,900 美元——以机器人的标准来看相对便宜。它通常部署在建筑和制造业等行业中，用于执行远程检查和安全巡逻。该机器人可以自主行走，但通常依赖于高级软件命令或操作控制器的人。Go2 由位于中国杭州的 Unitree 制造。根据 SemiAnalysis 的一份最新报告，其 AI 系统目前是市场上最受欢迎的。
驱动 ChatGPT 和其他智能聊天机器人的大型语言模型通常会根据提示生成文本或图像。最近，这些系统变得擅长生成代码和操作软件——将它们从单纯的文本生成器转变为代理（agents）。
拓展到物理行动
许多研究人员对代理在操作网络之外采取物理行动的潜力很感兴趣。为了帮助实现这一目标，一些资金充足的初创公司正在努力开发可以控制能力强得多的机器人的 AI 模型。其他人则在开发新型机器人，例如人形机器人，它们未来可能会在人们的家中工作。
卡内基梅隆大学的机器人专家 Changliu Liu 表示，Project Fetch 的结果很有趣，但并不令人太惊讶。Liu 补充说，对团队动态的分析值得关注，因为它暗示了设计 AI 辅助编程界面的新方法。她补充道：“我最感兴趣的是更详细地分析 Claude 做了哪些贡献，比如它是否识别了正确的算法、选择了 API 调用，还是做了其他更实质性的工作。”
一些研究人员警告说，使用 AI 与机器人交互会增加滥用和意外事故的潜力。“Project Fetch 证明了 LLM 现在可以指导机器人执行任务，”研究这些风险的宾夕法尼亚大学计算机科学家 George Pappas 说。
然而，Pappas 指出，今天的 AI 模型需要访问其他程序来进行感知和导航等任务，才能采取物理行动。他的团队开发了一个名为 RoboGuard 的系统，通过对机器人的行为施加特定的规则来限制 AI 模型做出不当行为的方式。Pappas 补充说，AI 系统控制机器人的能力只有在它能够通过与物理世界的互动来学习时才会真正起飞。“当你将丰富的数据与具身反馈结合起来时，你正在构建的系统不仅可以想象世界，还可以参与其中。”
这可能会使机器人变得更加有用——如果 Anthropic 的说法可信，那么风险也会大得多。
这是Will Knight的AI Lab时事通讯的一期。可以点击此处阅读之前的时事通讯。
🚀 想要体验更好更全面的AI调用？
<>欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区