📢 转载信息
原文链接：https://aws.amazon.com/blogs/machine-learning/how-bunq-handles-97-of-support-with-amazon-bedrock/
原文作者：Benjamin Kleppe, Jagdeep Singh Soni, and Guy Kfir
本文由 bunq 机器学习工程主管 Benjamin Kleppe 联合撰写。
智能体式 AI 的集成正在改变银行业，标志着从传统客户服务系统向自主决策能力的重大转变。智能体式 AI 能够在复杂的金融环境中展现自主决策能力，使银行能够大规模提供全天候多语言支持、处理交易并提供个性化的财务见解。
bunq 是欧洲第二大数字银行，致力于为具有国际生活方式的个人和企业提供便利。bunq 成立于 2012 年，由连续创业家 Ali Niknam 创立，始终将用户放在其所做一切的核心。该公司帮助其遍布欧洲的 2000 万用户在一个基于用户反馈构建的、用户友好的应用程序中自信地进行消费、储蓄、预算和投资。
在本文中，我们将展示 bunq 如何利用 Amazon Bedrock 升级其内部生成式 AI 助手 Finn，从而使客户支持和银行运营变得无缝衔接，并支持多种语言和时区。
业务挑战
银行面临的主要挑战是如何在多个渠道、语言和时区中提供一致的高质量客户支持。传统的支持系统难以应对金融产品的复杂性、监管要求，以及客户对即时、准确响应的日益增长的期望。客户期望能够即时访问基本的银行功能，例如交易争议、账户管理和财务建议，而银行必须维持严格的安全协议和合规标准。作为一个以用户为中心的银行，bunq 的用户期望获得全天候的支持来满足其银行需求，例如请求退款或寻求功能指导。传统的支持模式无法跟上这种需求，导致了令人沮丧的瓶颈并给内部资源带来了压力。除了直接支持外，bunq 团队还需要有效的方法来分析收到的功能请求和错误报告，以便持续改进其系统。很明显，bunq 需要一个更智能的解决方案，该方案能够提供即时、准确的全天候协助，并帮助团队将宝贵的用户反馈转化为实际行动。
解决方案概述
bunq 的生成式 AI 助手 Finn 于 2023 年推出，是 bunq 专有 AI 堆栈的一部分，完全由内部构建。Finn 使用领先的 AI 基础模型（FM）和工具，包括通过 Amazon Bedrock 访问的 Anthropic 的 Claude 模型。与通用聊天机器人不同，Finn 可以处理自然语言并提供实时、智能的答案。Finn 可以将 bunq 应用程序翻译成 38 种语言，并将与支持团队的语音通话实时翻译。它还可以总结复杂的银行信息、提供财务见解和预算建议，甚至可以识别图像，从而自动执行诸如发票处理等繁琐任务。bunq 的方法利用 AWS 服务来创建可扩展的 AI 智能体基础设施，该基础设施可以在满足现代银行业务需求的同时，维护安全性和合规性。该解决方案使用了以下 AWS 服务：
- Amazon Bedrock – 一项完全托管的服务，通过统一的 API 即可使用领先 AI 公司和亚马逊提供的高性能 FM。bunq 使用 Amazon Bedrock 来访问 Anthropic 的 Claude 模型，并利用了增强的安全功能、可扩展性和合规性——这对银行应用程序至关重要。
- Amazon Elastic Container Service (Amazon ECS) – 一项完全托管的容器编排服务，可简化容器化应用程序的部署、管理和扩展。Amazon ECS 减轻了安装和操作容器编排软件或管理虚拟机集群的需要，帮助 bunq 专注于构建 Finn 的多智能体架构。
- Amazon DynamoDB – 一项完全托管的无服务器 NoSQL 数据库服务，专为大规模运行高性能应用程序而设计。DynamoDB 提供个位数毫秒级的性能，并存储智能体内存、对话历史记录和会话数据，使 Finn 能够在客户交互中保持上下文。
- Amazon OpenSearch Serverless – Amazon OpenSearch Service 的按需自动扩展配置。OpenSearch Serverless 根据应用程序需求自动扩展计算资源，并为 Finn 的检索增强生成 (RAG) 实施提供向量搜索功能，从而能够跨 bunq 的知识库进行语义搜索。
使用 Amazon Bedrock 构建多智能体实施
用户可以通过 bunq 的应用程序和 Web 界面与 Finn 互动，使用自然语言提出请求，例如查询账户信息、交易历史、财务建议和支持问题。系统实时处理请求，仅访问与请求相关的数据，同时保持严格的安全和隐私控制。用户支持场景需要的不仅仅是单个 AI 智能体所能提供的。多智能体架构允许专业智能体处理不同的任务——一个智能体可能擅长理解用户，另一个专注于提取相关文档，第三个处理交易分析或账户操作。对于 Finn 而言，这意味着用户询问有关失败付款的问题可能会触发协调响应：一个智能体解释问题，另一个检查交易日志，第三个根据类似案例提出解决方案。它们共同无缝协作，在几秒钟内提供全面答案，而不是让用户在不同部门之间来回奔波。最初用于银行服务的多智能体支持系统遵循一个看似简单的模式：一个中心路由器智能体将用户查询定向到专业子智能体。每个智能体处理特定领域——技术支持、一般咨询、交易状态、账户管理等。然而，随着系统的发展，对系统的要求也日益复杂。随着 bunq 增加更多专业智能体来处理新的生态系统，出现了三个问题：
- 路由复杂性 – 拥有多个专业智能体后，路由器需要越来越复杂的逻辑来确定正确的目的地。
- 能力重叠 – 多个智能体需要访问相同的数据源和能力，迫使路由器不仅要预测主要意图，还要预测下游可能需要的任何次要智能体——这在规模上是不可能完成的任务。
- 可扩展性瓶颈 – 每增加一个新的智能体或功能，都需要更新路由器的逻辑。添加一个新的专业智能体需要对所有路由场景进行全面测试。路由器成为了单点故障和潜在的开发瓶颈。
重新思考架构
bunq 重新设计了其系统，围绕一个与旧路由器工作方式从根本上不同的编排器智能体。编排器不是尝试路由到所有可能的智能体，而是执行以下操作：
- 仅将查询路由到 三到五个主要智能体
- 授权这些主要智能体在需要时将其他智能体作为工具调用
- 将决策权委托给智能体本身
通过这种 Agent-as-tool（智能体即工具） 模式，主要智能体可以检测何时需要专业帮助。工具智能体由主要智能体动态调用。智能体可以通过一个定义明确的接口调用其他智能体——它们成为彼此工具包中的工具。
下图说明了这一工作流程。
bunq 的 Finn 服务使用了专为安全、可扩展性和智能编排而设计的全面 AWS 基础设施。以下架构图展示了多个 AWS 服务如何协同工作，以提供多智能体 AI 系统。
编排与智能体架构
系统的核心是编排器智能体，它运行在 Amazon Elastic Container Service (Amazon ECS) 上。该编排器实现了 Agent-as-tool 模式，将用户查询路由到有限数量的主要智能体，而不是试图预测每一种可能的情况。编排器维护三到五个主要智能体（主要智能体 1 到 5），每个智能体都作为部署在 Amazon ECS 上的容器化服务。这种设计提供了水平可扩展性——随着需求的增加，可以自动启动额外的智能体实例。每个主要智能体都有权在需要时调用专业智能体作为工具。这些专业智能体（专业智能体 1、2、3 等）充当主要智能体可调用的工具，以实现特定功能，例如分析交易数据、检索文档或处理复杂查询。这种分层结构避免了路由复杂性瓶颈，同时保持了灵活性。
基础设施详情
该架构建立在强大的 AWS 服务基础之上，这些服务支持 Finn 的性能。用户通过 bunq 的应用程序访问服务，流量由 AWS WAF 和 Amazon CloudFront 保护，而身份验证流程通过 bunq 的专有身份系统进行。Amazon Bedrock 提供对 Anthropic Claude 模型的访问，用于自然语言理解，并辅以 Amazon SageMaker 托管的微调模型，用于专业的银行场景。智能体内存和对话历史记录存储在 DynamoDB 中，OpenSearch Service 充当 RAG 功能的向量存储，支持跨 bunq 知识库的语义搜索。Amazon Simple Storage Service (Amazon S3) 负责文档存储，而 Amazon MemoryDB 管理用户会话以实现实时交互。通过 AWS CloudTrail、Amazon GuardDuty 和 Amazon CloudWatch 实现的全面可观测性，有助于团队监控性能、检测威胁并在安全的虚拟私有云 (VPC) 中维护合规性。
实际影响
从 bunq 最初基于路由器的架构转向采用 Amazon Bedrock 的编排器模式，在用户支持操作方面带来了显著的改进。多智能体部署实现了显著的运营效率提升：
- Finn 现在处理 bunq 97% 的用户支持活动，其中 82% 以上完全自动化。平均响应时间降至仅 47 秒，帮助 bunq 提供了用户期望的实时解决方案。
- 快速的部署时间突显了 bunq 对创新的重视。该团队从 2025 年 1 月开始，用了 3 个月的时间将概念投入生产。bunq 召集了一个 80 人的团队——从 AI 工程师到支持人员——他们共同协作，每天测试、学习和部署更新三次。
- 在实施编排器架构之前，升级主要依赖手动流程。新的多智能体系统增强了自动化，改变了端到端支持指标。此外，Finn 通过将应用程序翻译成 38 种语言，扩大了 bunq 的覆盖范围，使欧洲数百万用户更容易获得银行服务。
- 该解决方案使 bunq 能够成为欧洲首家 AI 驱动的银行，提供了任何传统支持系统都无法提供的功能：实时语音到语音翻译（全球银行业首创）、用于收据处理和文件验证的图像识别，以及智能财务见解——同时维持用户所需的全天候可用性。
“我们用了 3 个月时间从概念到投入生产。在采用编排器架构之前，升级主要依赖手动流程。现在 Finn 处理 97% 的支持，其中 70% 完全自动化，平均响应时间为 47 秒。”
– Benjamin Kleppe，bunq 机器学习工程主管。
结论
bunq 从手动支持升级到智能多智能体系统的历程，展示了现代 AI 架构如何改变银行运营。通过从僵化的基于路由器的流程转向采用 Amazon Bedrock 的灵活编排器模式，bunq 避免了可扩展性瓶颈，同时保持了服务欧洲 2000 万用户的敏捷性。Agent-as-tool 能力的编排器模式是 bunq 成功的关键。系统不是预先预测每一种可能的[用户]场景，而是授权主要智能体在需要时动态调用专业智能体。这种架构转变减少了复杂性，加速了开发周期，并在初步推广期间帮助 bunq 每天部署三次更新。结果是：Finn 处理了 97% 的支持交互，其中 70% 完全自动化，平均响应时间仅为 47 秒。除了提高效率外，该解决方案还将 bunq 的服务范围扩大到 38 种语言，并将公司定位为欧洲首家 AI 驱动银行。通过将内部资源从手动流程中解放出来，bunq 现在可以专注于其最擅长的事情：构建一个让用户生活更轻松的银行。
要了解有关使用 FM 构建 AI 驱动应用程序的更多信息，请参阅 Amazon Bedrock。探索 Anthropic 的 Claude on Amazon Bedrock 如何通过增强的安全功能和可扩展性改变您的客户体验。通过阅读 Amazon Bedrock 文档，开始构建您自己的多智能体解决方案。
关于作者
Benjamin Kleppe 是 bunq 的机器学习工程主管，负责领导开发和扩展 AI 驱动的解决方案，为欧洲 2000 万用户提供更智能、更个性化的银行服务。他专注于构建增强用户体验、改进产品发现和自动化复杂银行流程的智能系统。Benjamin 热衷于推动银行业 AI 创新的界限，他领导 bunq 通过推出其专有生成式 AI 平台 Finn，使 bunq 成为欧洲首家 AI 驱动的银行。
Jagdeep Singh Soni 是 AWS 驻荷兰的高级 AI/ML 解决方案架构师，专注于生成式 AI 和 Amazon Bedrock。他帮助客户和合作伙伴使用 Amazon Bedrock 和其他 AWS AI/ML 服务构建和实施智能体解决方案。Jagdeep 拥有 16 年的创新和云架构经验，专注于帮助组织利用基础模型和智能体框架构建可投入生产的生成式 AI 应用程序，以实现现实世界的业务成果。
Guy Kfir 是 AWS 的生成式 AI 负责人，在云技术销售、业务开发和 AI/ML 宣传方面拥有超过 15 年的经验。他与 EMEA 地区的企业客户、初创公司和合作伙伴合作，以加速生成式 AI 解决方案的采用并执行上市策略。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区