Totogi如何利用Totogi BSS Magic和Amazon Bedrock实现变更请求处理的自动化-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

📢 转载信息

原文链接：https://aws.amazon.com/blogs/machine-learning/how-totogi-automated-change-request-processing-with-totogi-bss-magic-and-amazon-bedrock/

原文作者：Nikhil Mathugar, Marc Breslow, Sudhanshu Sinha, Andrew Ang, Mofijul Islam, Parth Patwa, and Shinan Zhang

本文由Totogi的Nikhil Mathugar、Marc Breslow和Sudhanshu Sinha共同撰写。

本博文描述了Totogi如何实现变更请求（Change Request, CR）处理的自动化。Totogi 是一家人工智能公司，致力于帮助电信（telco）公司实现规模化的创新、加速增长并采用AI技术。Totogi的旗舰产品BSS Magic，通过在传统系统之上覆盖一个AI层，连接和建模电信业务运营。有了BSS Magic，电信运营商无需依赖特定供应商或进行漫长的实施过程，即可扩展、定制和现代化其系统。通过与AWS生成式AI创新中心合作，并利用Amazon Bedrock的快速创新能力，Totogi加速了BSS Magic的开发，帮助其客户更快地创新并更好地控制其技术栈。

在本文中，我们将探讨与传统业务支撑系统（BSS）相关的挑战，以及Totogi BSS Magic提供的创新解决方案。我们将介绍电信本体论的复杂性以及为自动化变更请求处理提供支持的多智能体框架。此外，本文还将概述AI智能体的编排，以及这种方法对电信运营商及其他领域的益处。

BSS的挑战

BSS系统通常难以管理。一个典型的BSS堆栈由来自各种供应商的数百个不同的应用程序组成。但这些BSS应用程序难以集成，要么将电信公司限制在供应商的生态系统中，要么要求它们投入昂贵的定制开发。由于依赖专业的工程人才，此类定制开发速度慢且资源消耗大。

每个变更请求都需要对跨越相互关联模块的潜在影响进行彻底分析，这消耗了大量的时间和精力。即使是小的更新也可能涉及多轮的编码、测试和重新配置才能达到稳定状态。对于系统可靠性至关重要的电信运营商来说，这些安全保障是不可或缺的，但代价高昂。所需专业知识的工程师稀缺，进一步加剧了流程的复杂性，推高了成本并延长了时间表。因此，新功能或服务的新开发周期通常需要数月才能完成，使运营商难以满足快速变化市场的需求。

诸如TM Forum的开放数字架构（ODA）之类的倡议旨在解决此问题，但大多数供应商在采用此类开放标准方面行动迟缓。这种动态加剧了技术债务并推高了运营成本。

BSS Magic解决方案概述

Totogi BSS Magic通过AI生成的互操作性减少了复杂性，这有助于简化集成、定制和应用程序开发。BSS Magic包含两个关键方面：

电信本体论（Telco Ontology）：理解数据结构的语义含义以及它们之间的关系，将异构数据链接成一个连贯的知识网络。
用于完全自动化变更请求（CR）的多智能体框架：将CR处理时间从7天减少到几个小时。

电信本体论：互操作性的关键

本体论充当详细说明概念、关系和领域知识的语义蓝图。在电信领域，这意味着将BSS环境转化为一个清晰、可重用且可互操作的生态系统。Totogi的电信本体论有助于深入理解数据交互，并在任何供应商或系统之间实现无缝集成。
通过采用FAIR原则（可查找性、可访问性、互操作性和可重用性），这种本体论驱动的架构将静态、孤立的数据转变为动态、互连的知识资产——释放被困的数据并加速创新。下图展示了本体论的概览。

用于自动化变更请求处理的多智能体框架

AI智能体是经过训练以自主执行特定任务的高级软件应用程序。Totogi的BSS Magic AI智能体拥有广泛的领域知识，并利用这种理解来管理跨多个供应商系统的复杂数据交互。这些智能体自动生成和测试电信级的代码，用智能的AI生成应用取代传统的集成和定制。从本质上讲，BSS Magic使用带有反馈循环的多智能体AI方法来自动化整个软件开发管道。每个智能体都旨在在开发管道中发挥特定作用：

业务分析智能体（Business analysis agent）：将非结构化需求转化为正式的业务规范。
技术架构师智能体（Technical architect agent）：接收这些业务规范，定义技术架构、API和依赖关系。
开发人员智能体（Developer agent）：生成高质量、可部署的代码，包括模块化设计和优化。
质量保证智能体（QA agent）：验证代码是否遵循最佳实践，从而提高质量和安全性。它提供反馈供开发人员智能体用于更新代码。
测试人员智能体（Tester agent）：生成强大的单元测试用例，简化验证和部署。测试用例的结果用于开发人员智能体以改进代码。

系统概览如下图所示。

这个集成管道将完成一个变更请求所需的时间从7天减少到几小时，仅需最少的人工干预。实施该系统的前提条件包括：一个有权访问Amazon Bedrock、AWS Step Functions、AWS Lambda的AWS账户以及已配置的Amazon凭证。AI智能体使用Anthropic Claude大语言模型（LLMs）通过Amazon Bedrock实现。状态管理和工作流协调由Step Functions处理，以确保每个阶段都能可靠地推进。AWS基础设施为电信级解决方案提供了企业级的可靠性、安全性和可扩展性所必需的保障。

为了构建该框架，Totogi与AWS生成式AI创新中心（GenAIIC）进行了合作。GenAIIC提供了AI专业知识、行业领先的人才以及严格的迭代流程，以优化AI智能体和代码生成工作流。它还就提示工程（prompt engineering）、检索增强生成（RAG）、模型选择、自动化代码审查、反馈循环、用于评估AI生成输出的稳健性能指标等方面提供了指导。这次合作有助于建立在扩展平台自动化规模的同时保持可靠性的方法。该解决方案编排了多个专业AI智能体，以处理完整的软件开发生命周期，从需求分析到测试执行。AI智能体的详细信息将在以下章节中介绍。

多智能体编排层

编排层通过Step Functions和Lambda函数的组合来协调专业AI智能体。每个智能体都通过RAG和少样本提示（few-shot prompting）技术来维持上下文，以生成准确的领域特定输出。系统在管理智能体通信和状态转换的同时，保持对决策和操作的全面审计跟踪。

业务分析生成

业务分析智能体利用Claude的自然语言理解能力来处理工作说明书（SOW）文档和验收标准。它使用针对电信BSS领域知识优化的自定义提示模板来提取关键需求。该智能体生成结构化规范以供下游处理，同时在业务需求和技术实现之间保持可追溯性。

技术架构生成

技术架构师智能体将业务需求转化为具体的AWS服务配置和架构模式。它生成全面的API规范和数据模型，并整合AWS Well-Architected原则。该智能体根据既定模式和最佳实践验证架构决策，生成用于自动化部署的基础设施即代码（IaC）模板。

代码生成管道

开发人员智能体利用Claude先进的代码生成能力将技术规范转换为实现代码。它生成健壮、可投入生产的代码，其中包括适当的错误处理和日志记录机制。该管道整合了来自验证步骤的反馈，以迭代地提高代码质量并保持与AWS最佳实践的一致性。

自动化质量保证

QA智能体使用Claude构建，用于执行全面的代码分析和验证。它评估代码质量并识别潜在的性能问题。该系统与开发阶段保持持续的反馈循环，根据质量指标和最佳实践的遵循情况，促进生成代码的快速迭代和改进。QA流程由精心设计的提示组成。

QA代码分析提示：

"You are a senior QA backend engineer analyzing Python code for serverless applications. Your task is to: Compare requirements against implemented code Identify missing features Suggest improvements in code quality and efficiency  Provide actionable feedback Focus on overall implementation versus minor details Consider serverless best practices"

此提示有助于QA智能体执行彻底的代码分析、评估质量指标并与开发阶段保持持续的反馈循环。

测试自动化框架

测试人员智能体创建验证功能和非功能性需求的全面测试套件。它使用Claude来理解测试上下文并生成适当的测试场景。该框架通过评估周期管理测试的完善，在保持测试代码质量和可靠性的同时，实现对业务需求的全面覆盖。测试框架使用多阶段提示方法。

初始测试结构提示：

"As a senior QA engineer, create a pytest-based test structure including: Detailed test suite organization Resource configurations Test approach and methodology Required imports and dependencies"

测试实现提示：

"Generate complete pytest implementation including: Unit tests for each function Integration tests for API endpoints AWS service mocking Edge case coverage Error scenario handling"

测试结果分析提示：

"Evaluate test outputs and coverage reports to: Verify test completion status Track test results and outcomes Measure coverage metrics Provide actionable feedback"

这种结构化的方法带来了全面的测试覆盖，同时保持了高标准质量。该框架目前实现了76%的代码覆盖率，并成功验证了功能性和非功能性需求。

测试人员智能体向开发人员智能体提供反馈循环，以改进代码。

结论

Totogi BSS Magic与Amazon Bedrock的集成，为现代电信运营商提供了一个全面的解决方案。以下是一些供您参考的要点：

端到端自动化： BSS Magic自动化了整个开发生命周期——从想法到部署。AI智能体处理所有事务——从需求、架构、代码生成到测试和验证。
成果： 智能体框架显著提高了效率，将变更请求处理时间从七天减少到几小时。自动化测试框架实现了76%的代码覆盖率，持续交付高质量的电信级代码。
对电信运营商的独特价值： 通过使用Totogi BSS Magic，电信运营商可以加速产品上市时间并降低运营成本。BSS Magic使用自主AI，独立管理复杂任务，使电信运营商能够专注于战略创新。该解决方案由Amazon Bedrock支持，后者提供可扩展的AI模型和基础设施，以及对电信至关重要的、高水平的安全性和可靠性。
对其他行业的影响： 尽管BSS Magic专注于电信行业，但多智能体框架可以重新用于其他行业的通用软件开发。
未来工作： 未来的增强将侧重于扩展模型在电信及其他领域的领域知识。另一种可能的扩展是集成一个AI模型，根据历史数据预测变更请求中潜在的问题，从而先发制人地解决常见难点。

欢迎在下方评论区提出任何反馈和问题。联系我们以参与AWS生成式AI创新中心或了解更多信息。

关于作者

Nikhil Mathugar是Totogi的售前全栈工程师，负责设计和实施跨Python和现代JavaScript框架的可扩展的基于AWS的概念验证项目。他拥有十多年架构和维护大型系统的经验——包括Web应用程序、多区域流式传输基础设施和高吞吐量自动化管道。在此基础上，他对AI有浓厚的兴趣——专注于生成式AI、智能体工作流以及集成大型语言模型以发展Totogi的BSS Magic平台。

Marc Breslow是Totogi的现场首席技术官，他利用AI彻底改变电信行业。作为埃森哲、雷曼兄弟和花旗银行的资深人士，Marc在构建可扩展、高性能系统方面有着公认的业绩。在Totogi，他领导开发AI驱动的解决方案，为电信运营商带来切实的成果：减少客户流失、提高每用户平均收入（ARPU）并简化业务流程。Marc负责展示这些能力的客户证明点。在不与客户互动时，Marc领导团队构建Totogi的BSS Magic技术，利用AI智能体和工作流生成应用并提高效率。

Sudhanshu Sinha是Totogi的首席技术官和创始团队成员之一，他与代理首席执行官Danielle Rios一起推动电信行业向AI原生软件转型。作为BSS Magic背后的主要战略家，他塑造了其架构、市场进入策略和早期采用——将AI原生原则转化为运营商可衡量的价值。他还帮助定义了Totogi的电信本体论，从而实现了跨复杂BSS环境的互操作性和自动化。凭借二十多年的电信经验，Sudhanshu将深厚的技术洞察力与商业敏锐度相结合，使全球电信运营商的AI驱动转型变得切合实际且有利可图。

Parth Patwa是AWS生成式AI创新中心的首席数据科学家，他利用生成式AI和LLM从事客户项目。他拥有加州大学洛杉矶分校的理学硕士学位。他在顶级ML和NLP会议上发表过论文，并拥有超过1000次引用。

Mofijul Islam是AWS生成式AI创新中心的II级应用科学家和技术主管，他帮助客户利用生成式AI、大型语言模型（LLM）、多智能体学习、代码生成和多模态学习来解决以客户为中心的研究和业务挑战。他拥有弗吉尼亚大学的机器学习博士学位，其研究重点是多模态机器学习、多语言自然语言处理和多任务学习。他的研究成果已在NeurIPS、ICLR、AISTATS和AAAI等顶级会议以及IEEE和ACM Transactions上发表。