📢 转载信息
原文链接：https://techcrunch.com/2025/12/08/google-details-security-measures-for-chromes-agentic-features/
原文作者：Ivan Mehta
越来越多的浏览器正在试验可以代表用户执行操作（如预订机票或购物）的代理功能（agentic features）。然而，这些代理功能也带来了安全风险，可能导致数据或金钱的损失。
谷歌详细介绍了其在Chrome中处理用户安全的方法，主要利用观察者模型（observer models）和用户操作的同意机制。该公司在9月份预览了Chrome上的代理功能，并表示这些功能将在未来几个月内推出。
该公司表示，正在利用少数模型的帮助来监督代理操作。谷歌称，他们构建了一个使用Gemini的用户对齐评论家（User Alignment Critic）模型，用于审查规划模型（planner model）为特定任务制定的操作项。如果评论家模型认为计划中的任务不符合用户的目标，它会要求规划模型重新考虑策略。谷歌指出，评论家模型仅能看到所提议操作的元数据，而看不到实际的网络内容。
此外，为了防止代理访问被禁止或不可信的网站，谷歌正在使用代理来源集（Agent Origin Sets），该机制将模型限制在只能访问只读来源（read-only origins）和可写来源（read-writeable origins）。只读来源是Gemini被允许从中消费内容的来源。例如，在一个购物网站上，列表内容与任务相关，但横幅广告则不相关。类似地，谷歌表示代理只被允许点击或输入页面上某些 iframe 中的内容。
该公司在博客文章中表示：“这种区分强制确保代理只能访问来自有限来源的数据，并且这些数据只能传递给可写来源。这限制了跨来源数据泄露的威胁向量。这还使浏览器能够强制执行这种分离，例如，通过根本不向模型发送超出可读集合之外的数据。”
谷歌还通过另一个观察者模型来检查URL，从而监控页面导航。该公司表示，这可以防止导航到模型生成的有害URL。
这家搜索巨头表示，对于敏感任务，他们也将控制权交给了用户。例如，当代理尝试导航到一个包含银行或医疗数据等敏感信息的网站时，它会首先询问用户。对于需要登录的网站，它会请求用户授权Chrome使用密码管理器。谷歌表示，代理的模型不会接触到密码数据。该公司补充说，在执行诸如进行购买或发送消息等操作之前，都会征求用户的同意。
谷歌表示，除此之外，他们还有一个提示注入分类器（prompt-injection classifier）来防止不必要的动作，并且正在针对研究人员创建的攻击测试代理功能。
人工智能浏览器制造商也开始关注安全问题。本月早些时候，Perplexity 发布了一个新的开源内容检测模型，以防止针对代理的提示注入攻击。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区