📢 转载信息
原文作者：AWS Machine Learning Blog
随着大语言模型（LLM）的成熟，AI 智能体 正在成为我们构建下一代应用的核心。这些智能体需要能够与外部系统和数据源进行交互，通常是通过 工具 的形式。在 Amazon Bedrock 中，代理（Agents for Amazon Bedrock） 能够根据用户请求自动调用这些工具。为了让这些工具能够被 Bedrock 代理发现和使用，您需要将工具的 API 端点定义并暴露给 Bedrock 代理服务。
过去，将自定义工具的 API 端点连接到 Bedrock 代理可能需要多个 AWS 服务和复杂的配置。在本篇博文中，我们将探讨如何使用 多模型中心（MCP, Multi-Model Center） 这一强大的工具，简化 Amazon API Gateway 与 AgentCore Gateway 之间的连接，从而更高效地管理和暴露 AI 智能体的工具。
AI 智能体工具交互的挑战
AI 智能体需要能够识别何时需要使用工具，并向工具发出正确的请求。在 Bedrock 中，这通常涉及将工具的 OpenAPI 规范（以前称为 Swagger 规范）注册到代理服务中。当代理决定调用特定工具时，它会向工具的 API 端点发送请求。
然而，对于许多企业而言，工具的 API 端点可能已经存在于现有的基础设施中，或者需要通过 Amazon API Gateway 进行统一管理和安全控制。确保 Bedrock 代理能够可靠、安全地访问这些端点，是构建健壮 AI 系统的关键一步。
使用 MCP 简化连接
多模型中心（MCP）是一个 AWS 解决方案，旨在简化部署和管理机器学习模型及相关服务。通过利用 MCP，我们可以将 API Gateway 的功能与 AgentCore Gateway 集成起来，从而实现工具定义的标准化和集中管理。
什么是 AgentCore Gateway？
AgentCore Gateway 是 Amazon Bedrock 中用于管理和执行代理操作的核心组件。它负责解析代理的指令、确定工具调用、执行工具调用，并将结果返回给 LLM 进行响应生成。
什么是 MCP（多模型中心）？
MCP 提供了统一的接口来部署和管理多种类型的机器学习资源。在本场景中，我们主要关注它如何帮助我们标准化工具的定义和访问路径，特别是当这些工具通过 API Gateway 暴露时。
架构概览
我们将构建一个架构，其中 Amazon API Gateway 作为前端入口，接收来自 Bedrock 代理的工具调用请求。API Gateway 后面可以连接到各种后端服务，例如 AWS Lambda 函数或自定义容器，这些服务实际执行了工具的业务逻辑。
通过 MCP，我们可以注册 API Gateway 的端点信息，并将其结构化为 Bedrock 代理可以理解的 工具描述。这个过程显著减少了手动配置的复杂性。
配置步骤：API Gateway 与 AgentCore Gateway 的集成
要实现这种集成，主要涉及以下关键步骤：
步骤 1: 准备工具 API
首先，确保您的工具 API 已经通过 Amazon API Gateway 正确部署。该 API 必须具有清晰的 OpenAPI 规范（.json 或 .yaml 格式），准确描述了端点、方法（GET, POST 等）以及所需的输入参数（Schema）。
要点： OpenAPI 规范的准确性至关重要，因为它直接决定了 Bedrock 代理如何构建调用请求。
步骤 2: 在 MCP 中注册 API Gateway
使用 MCP 的管理界面或 API，您可以注册新的“模型”或“服务”，在这里，我们将 API Gateway 的元数据作为一种服务进行注册。这通常涉及提供 API Gateway 的基础 URL，以及指向 OpenAPI 规范的路径。
MCP 将处理元数据的转换和存储，确保其与 AgentCore Gateway 的期望格式兼容。
步骤 3: 创建 Amazon Bedrock 代理
在 Amazon Bedrock 控制台中，创建一个新的代理。在配置工具时，选择从 MCP 注册的服务中导入工具定义。
Bedrock 代理服务会读取 MCP 提供的结构化定义，自动识别出可用的 API 操作和它们的参数要求。
步骤 4: 测试和迭代
完成代理的创建后，使用 Bedrock 的测试功能来模拟用户请求。代理会根据用户意图，自动选择合适的工具，并通过 API Gateway 调用后端服务。
您需要密切监控 API Gateway 的日志和 Bedrock 的执行追踪，以确保请求的路由和数据格式是正确的。
优势总结
使用 MCP 连接 API Gateway 到 AgentCore Gateway 带来了显著的好处：
- 简化工具发现： MCP 充当了注册中心，使 Bedrock 代理更容易发现和理解可用的外部工具。
- 标准化配置： 统一了工具定义的格式，避免了为每个工具手动编写和维护复杂的 Bedrock 注册脚本。
- 安全增强： 利用 API Gateway 提供的成熟安全机制（如 IAM 授权、WAF、Throttling 等）来保护底层工具 API。
- 加速开发： 开发者可以将精力集中在工具的业务逻辑上，而不是集成层。
总之，MCP 是连接现代 API 基础设施与 Bedrock AI 智能体的强大粘合剂。通过这一集成，企业可以更快速、更安全地将复杂的业务流程和专有数据源赋能给生成式 AI 应用程序。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区