📢 转载信息
原文链接：https://www.technologyreview.com/2026/03/16/1133979/nurturing-agentic-ai-beyond-the-toddler-stage/
原文作者：Lynn Comp
生成式AI在2025年底至2026年初步入“幼儿期”，随着各类免代码工具和开源个人智能体（如OpenClaw）的出现，这项技术不再只是在实验室里缓慢爬行，而是瞬间进入了“冲刺”状态。然而，极少有现行的治理原则能够应对这种转变。
责任挑战：问题不在AI，而在使用者
以往的治理重点在于模型输出风险，并保持“人在回路中”（human-in-the-loop），以应对贷款审批或求职申请等后果严重的决策。但如今，自主智能体在复杂工作流中的应用，要求尽可能减少人工干预。其目标是以机器的速度处理业务，自动化执行具有明确规则的体力劳动。
从法律责任角度看，机器执行工作流与人类执行工作流之间，企业面临的风险不应有任何降低。正如法律界所言：“AI负责工作，人类承担风险”。法律法规的完善也在封堵“AI操作失误”这类推卸责任的借口。企业必须将风险与责任治理内置到工作流的底层代码中，否则自主智能体的优势将化为乌有。
关于权限的思考
让一个没有实时护栏（guardrails）的概率系统操作系统核心数据，无异于给三岁小孩一台遥控坦克或武装无人机的游戏机。智能体可能会串联起多个企业系统，从而获得超越单个用户所能拥有的权限。为了稳步前行，治理必须从传统的“委员会决策”转向“嵌入式工作流代码”。
制定“退役计划”
许多企业鼓励员工构建自己的AI工作流，这可能导致数以千计的“僵尸智能体”散落在企业内。当员工调岗或离职时，这些与特定ID和权限绑定的程序可能变成被遗忘的“孤儿”。企业需要主动采取政策，及时停用并退休那些不再被管理的AI资产。
财务优化是治理的起点
许多高管将自主AI视为降低劳动力成本的利器，但调查显示，90%以上的组织发现部署自主AI的成本远超预期。与传统的软件订阅模式不同，AI的使用成本随着规模扩大而呈指数级增长。如果缺乏预设的财务护栏， unsupervised（无人监管）的复杂智能体链条可能会在短时间内耗尽巨额预算。
人机协作依然至关重要
自主智能体AI的核心前景是加速商业运作。尽管许多关于权限、审计、补救和财务优化的原则并未改变，但执行方式必须与AI的自主性保持同步。我们必须意识到，在这些关键功能中，虽然追求机器速度，但“人在回路中”或“人在监督中”依然是保持企业稳健的核心防线。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区