📢 转载信息

原文链接：https://venturebeat.com/ai/to-scale-agentic-ai-notion-tore-down-its-tech-stack-and-started-fresh

原文作者：Kyle Wiggers

Notion AI 规模化之路：重构技术栈，实现智能体AI的全新飞跃

随着人工智能应用（特别是以“智能体”为核心的AI应用）的快速发展，对底层技术架构的挑战也日益严峻。Notion，这款备受欢迎的知识管理和协作工具，为了实现其AI功能（Notion AI）的规模化和高效运行，做出了一个大胆的决定：拆除原有的技术栈，并从零开始构建新的架构。

在最近的博文中，Notion 的工程副总裁（VP of Engineering）Hansen Li 详细阐述了他们如何迎接这一转变。Notion AI 旨在成为一个“智能体”（Agent），能够理解用户需求、规划步骤、执行任务，甚至自主完成复杂的工作流。

为什么需要重构？旧架构的瓶颈

Notion 最初的架构是为了支持其核心的数据库和文档编辑功能而设计的，这种架构在面对快速增长的AI工作负载时，暴露出明显的瓶颈：

响应速度和延迟： 传统的架构在处理高并发的自然语言处理（NLP）请求时，响应时间难以优化，影响用户体验。
模型异构性： 随着Notion开始整合并测试来自不同供应商（如OpenAI、Anthropic等）的多个大型语言模型（LLM），旧有的单体或僵硬的架构难以灵活切换和管理这些模型。
可扩展性受限： 扩展AI服务需要独立于核心产品进行快速迭代和扩展，而旧架构的耦合性太高，难以实现敏捷开发。

Hansen Li 强调，要支持真正的“智能体AI”，他们需要的不是修补现有系统，而是构建一个能够原生支持大规模、多模型、低延迟推理的基础设施。

为了解决上述问题，Notion 团队设计了一个全新的、模块化的、以AI工作流为中心的架构。这个新系统更专注于以下几个关键领域：

新架构的核心是一个统一的推理层，旨在抽象化底层模型的差异。这个层负责路由请求到最合适的模型（无论是GPT-4、Claude 3还是内部微调模型），并管理API调用、缓存和错误处理。

“我们希望能够热插拔（hot-swap）不同的模型，而无需重写客户端逻辑，” Li 解释道。这大大提高了他们测试新模型的速度和效率。

智能体AI的本质是能够执行复杂、多步骤的任务。新的架构引入了强大的工作流编排器，它能够：

对于Notion这样的工具来说，上下文是王道。重构后的系统确保了AI能够快速、安全地访问用户在Notion工作区内的数据，而不会引入过多的延迟或安全风险。他们采用了先进的向量数据库和检索增强生成（RAG）技术，专门优化了从用户文档中提取相关上下文的速度。

通过这次彻底的重构，Notion 团队在提升AI性能方面取得了显著成果。Hansen Li 表示，新架构的部署使得他们能够更快速地迭代AI功能，并显著降低了关键AI任务的平均延迟。

这次“推倒重来”的策略虽然耗费巨大，但对于希望在AI竞争中保持领先地位的科技公司而言，是必要的投入。Notion 证明了，要真正实现下一代“智能体”应用，仅仅在应用层集成LLM是不够的，必须在底层基础设施层面进行深度优化和革新。

Notion 计划在未来继续利用这个灵活的新平台，集成更多多模态能力，让 Notion AI 成为用户工作流中更强大、更自主的智能伙伴。

🚀 想要体验更好更全面的AI调用？

欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。

详细的调用教程及文档：https://api.qingyuntop.top/about