📢 转载信息
原文链接：https://machinelearningmastery.com/the-7-biggest-misconceptions-about-ai-agents-and-why-they-matter/
原文作者：Jason Brownlee
人工智能（AI）智能体是一个新兴且快速发展的领域。虽然它们在媒体上被广泛报道，但关于它们能力和限制的许多观点仍然存在误解。为了帮助我们更清晰地理解AI智能体的真实前景，本文将探讨关于AI智能体的七个最大误解，并解释为什么了解这些区别至关重要。
什么是AI智能体？
在深入探讨误解之前，我们需要对AI智能体有一个清晰的定义。
AI智能体通常被描述为能够感知环境、制定计划、采取行动并朝着既定目标迭代的能力的实体。它们通常建立在大型语言模型（LLMs）之上，并辅以工具（如API调用、代码执行、信息检索）来扩展其能力。
尽管这个定义在技术上是正确的，但它也为误解留下了空间，特别是关于“智能”和“自主性”的含义。
AI智能体的七个最大误解
这些误解可能会导致对AI智能体能力的不切实际的期望，并可能阻碍其在关键应用中的负责任开发和部署。
误解 1：智能体拥有自主的规划能力
人们常常将AI智能体视为能够像人类一样独立思考、制定宏大战略并执行的实体。这种观念是错误的。
目前的AI智能体主要依赖于提示工程和LLM的推理能力来生成行动步骤。它们在很大程度上是反应性的，而不是主动规划的。它们执行的是一个迭代的、基于反馈的循环：
- 感知（Perceive）：接收输入或观察环境。
- 思考（Think）：使用LLM生成下一步的计划或行动。
- 行动（Act）：执行计划中的一个步骤，通常是通过调用一个工具或API。
这种循环是局部的，而不是全局的。智能体没有一个长期的、高级的战略蓝图；它们只是在每个步骤上做出局部最优的决策。
为什么这很重要？ 误解自主规划会导致在关键任务中过度依赖智能体，而没有进行充分的人工监督，因为它们可能会在看似合理的局部步骤中偏离整体目标。
误解 2：智能体能够真正“学习”
“学习”这个词在机器学习中具有非常具体的含义：通过数据训练模型参数以提高性能。
当人们说AI智能体在“学习”时，他们通常指的是上下文学习（in-context learning）或记忆。智能体可以记住当前的对话历史或短期记忆中的信息，并利用这些信息来指导后续的行动。
然而，它们通常不会更新底层模型的权重。它们不会像传统机器学习模型那样，通过经验来修改其核心知识库。它们是非持久性的，并且其“学习”仅限于当前会话或短期内存的范围内。
为什么这很重要？ 如果用户期望智能体能像人类一样从错误中长期、持久地吸取教训并改进其核心功能，他们将会失望。目前的智能体是静态模型加上动态上下文。
误解 3：它们是完全自主的
术语“Agent”本身暗示着独立行动的能力，但当前的AI智能体并非如此。
它们的操作完全依赖于预先定义的工具集和提示（Prompts）。它们的能力受限于它们被允许使用的API或函数。如果一个工具不存在，智能体就无法使用它。
为什么这很重要？ 承认其依赖性（工具和提示）至关重要。负责任的部署需要明确界定智能体的操作边界，并确保人类始终是“回路中”的（human-in-the-loop）的监管者，尤其是在高风险场景中。
误解 4：智能体可以可靠地处理复杂任务
LLM在生成文本方面表现出色，但这并不意味着它们可以可靠地执行涉及多个步骤、需要精确控制和资源管理的复杂任务。
当任务链变长，或者需要对外部世界进行精确协调时，目前的智能体系统很容易出错。这通常被称为灾难性遗忘或漂移，即它们在长序列中偏离最初设定的目标。
为什么这很重要？ 复杂任务需要高级的错误检测、回滚机制和人类干预点。将复杂任务完全委托给当前形态的AI智能体是不明智的。
误解 5：它们比传统软件更强大
AI智能体和传统软件程序（如Python脚本）是解决问题的不同工具。
传统软件在确定性和可重复性方面表现出色。它们严格按照代码逻辑执行，不会随机猜测下一步。AI智能体则在处理模糊性、非结构化输入和需要推理的任务上更强大。
为什么这很重要？ 智能体不是传统自动化流程的替代品，而是补充品。对于明确定义、重复性高的任务，传统代码更可靠、更安全。智能体更适合处理那些需要“直觉”或对不熟悉情况做出反应的任务。
误解 6：它们是通用的
虽然LLM本身具有一定的通用性，但AI智能体是通过特定工具集和提示工程“专业化”的。
一个擅长编程和文档撰写的智能体，可能在执行市场研究任务时表现不佳，除非它被明确赋予了相应的工具（如网页爬虫、数据分析API）并进行了相应的提示配置。
为什么这很重要？ 部署者需要认识到，智能体的能力是特定于其配置的。通用智能体（AGI）仍然是一个遥远的目标；我们现在使用的是专业化的AI系统。
误解 7：智能体完全透明
由于LLM的黑箱性质，即使是智能体的设计者也可能无法完全预测它在特定环境下将采取的确切行动路径。
虽然我们可以检查提示、工具定义和输出日志，但LLM内部的推理过程本身是难以完全解释的。这使得对智能体行为的可解释性和可审计性成为一个重大挑战。
为什么这很重要？ 在监管严格或高风险的行业中，要求对每一个决策都有明确的解释。当前的LLM驱动的智能体系统在满足这些严格的透明度要求方面存在固有困难。
总结
AI智能体是令人兴奋的工具，它们通过将LLM的能力与外部行动和工具连接起来，极大地扩展了AI的应用范围。然而，将它们视为具有人类层面的自主规划者或真正会学习的实体是危险的。
理解这七个关键误解——关于规划、学习、自主性、可靠性、通用性、对比传统软件的优势以及透明度——是负责任地构建和部署AI智能体的第一步。通过设定现实的期望，我们可以更好地利用这些系统，同时减轻它们当前固有的局限性带来的风险。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区