📢 转载信息
原文链接：https://machinelearningmastery.com/the-7-biggest-misconceptions-about-ai-agents-and-why-they-matter/
原文作者：Jason Brownlee
AI智能体（AI Agents）是当前人工智能领域最热门的话题之一。然而，许多人对智能体的实际能力和局限性存在严重的误解。这些误解不仅阻碍了对该技术的准确评估，还可能导致对其部署和应用的错误预期。
了解这些误解至关重要，因为它们影响了我们对当前和未来AI系统的看法。本文旨在澄清关于AI智能体的七个最大的误解，并解释为何理解这些差异很重要。
AI智能体的七大误解
以下是关于AI智能体的七个最常见的误解：
- 误解1：智能体必须能够自主规划。
- 误解2：智能体必须能自主地执行任务。
- 误解3：智能体必须能自主地感知环境。
- 误解4：智能体必须能够自主地学习或改进。
- 误解5：智能体是全新的，与LLM无关。
- 误解6：智能体已具备通用人工智能（AGI）。
- 误解7：智能体是完全自动化的。
理解这些误解的细微差别，可以帮助我们更准确地构建和部署智能体系统。
误解1：智能体必须能够自主规划
这可能是关于智能体最普遍的误解。许多人认为，一个真正的智能体必须能够像人类一样，从一个高层目标出发，自主地分解出后续所有步骤，并制定详细的行动计划。
为什么这是一个误解？
虽然规划能力是许多复杂AI系统的核心，但许多当前实用的AI智能体系统并不依赖于完全自主的、长期的、预先生成的规划。
许多成功的智能体架构，例如基于工具调用的智能体（Tool-Augmented Agents），依赖于短期的、情境化的决策。它们可能在执行每一步操作时才进行规划，或者依赖于预设的流程和外部反馈来驱动下一步行动。
为什么这很重要？
将自主规划视为智能体的强制要求，会不必要地抬高构建门槛。现实中，许多强大的智能体系统是通过迭代式反馈循环而不是复杂的预先规划实现的。过分强调规划能力可能导致我们忽视了那些通过快速迭代和外部反馈取得成功的智能体。
误解2：智能体必须能自主地执行任务
人们期望智能体一旦被告知任务，就能完全独立地完成它，无需人工干预。
为什么这是一个误解？
目前大多数AI智能体是人类辅助的（Human-in-the-Loop）。它们需要人类的监督、验证和干预才能成功完成复杂或高风险的任务。例如，一个智能体可能会生成代码，但人类开发者需要验证其正确性并执行。
为什么这很重要？
在企业环境中，将智能体视为自动化工具而不是完全自主的实体更为现实。只有理解到智能体通常需要人类的监督，才能设计出更安全、更可靠的系统。
误解3：智能体必须能自主地感知环境
这个误解源于机器人学中对智能体（Agent）的传统定义，即智能体必须能感知其物理或数字环境。
为什么这是一个误解？
在当前的大型语言模型（LLM）驱动的AI系统中，“感知”通常是受限的。智能体接收到的输入往往是预先处理好的数据，而不是原始、实时的环境感知流。例如，一个文本智能体感知到的环境就是它接收到的提示词和上下文。
为什么这很重要？
如果误以为智能体能“自主感知”世界，我们可能会在没有提供足够、准确、结构化输入的情况下期望它们做出正确的决策。智能体的“感知”能力完全取决于我们如何设计其输入和工具。
误解4：智能体必须能够自主地学习或改进
人们希望智能体能够像人类一样，通过经验不断自我修正和提升。
为什么这是一个误解？
虽然元学习（Meta-Learning）和一些基于强化学习的系统正在探索自我改进，但大多数现有的LLM驱动的智能体并不能在每次交互后自动更新其核心知识或行为模式。它们的“学习”通常是基于上下文学习（In-Context Learning），即在当前会话中利用提供的信息，但这些变化不会永久固化到模型权重中。
为什么这很重要？
我们不应期望今天的智能体在明天运行时会比今天更“聪明”，除非我们明确地对它们进行再训练或进行精细调整。智能体的改进需要明确的训练或微调过程。
误解5：智能体是全新的，与LLM无关
许多人认为AI智能体是一个完全独立于大型语言模型（LLM）的新概念。
为什么这是一个误解？
当前的AI智能体范式是建立在LLM的推理和语言理解能力之上的。LLM通常作为智能体的“大脑”，负责理解指令、生成计划和调用工具。没有强大的LLM，许多现代的“智能体”框架（如ReAct、Plan-and-Execute）将无法运行。
为什么这很重要？
区分LLM和智能体是很重要的。LLM提供能力，而智能体框架将这些能力组织成可执行的行动序列。将两者混为一谈会削弱我们对当前AI系统架构的理解。
图1：AI智能体框架的示例
误解6：智能体已具备通用人工智能（AGI）
因为智能体能够执行一系列复杂的任务，有人认为它们已经实现了通用人工智能。
为什么这是一个误解？
当前AI智能体（即使是最先进的）仍然是狭义的。它们在特定任务和领域内表现出色，但缺乏人类那种跨领域、灵活的泛化能力。它们依赖于LLM的知识和硬编码的工具集。
为什么这很重要？
将现有智能体视为AGI是危险的。这会导致在关键应用中过度依赖它们，而忽略了它们在面对不熟悉场景时的局限性。
误解7：智能体是完全自动化的
这个误解与误解2相关，但更侧重于结果：一旦启动，智能体就能无限期地独立运行。
为什么这是一个误解？
现实中的智能体系统通常需要维护、监控和重置。它们可能会陷入无限循环、消耗过多资源，或因API限制而失败。要维持它们的运行，需要人工或自动化系统进行持续管理。
为什么这很重要？
我们必须将智能体的部署视为一个持续的工程挑战，而不是“设置后就忘记”的解决方案。可靠性来自于持续的维护，而不是智能体本身的完全自主性。
总结
AI智能体是一个强大的领域，但围绕它的炒作常常导致对其实际能力的误解。当前最有效的智能体系统是那些被精确定义、依赖于LLM推理能力、并通常需要人类监督和精心设计的工具集的系统。
通过纠正这七个误解，我们可以更务实、更安全地利用这项技术，避免不切实际的期望，并专注于构建真正有价值的AI应用。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区