📢 转载信息
原文作者：MIT Technology Review Insights
数字韧性——即预防、抵御和从数字中断中恢复的能力——长期以来一直是企业的战略重点。随着代理式AI的兴起，对强大韧性的需求比以往任何时候都更为迫切。
代理式AI代表着新一代的自主系统，它们能够进行前瞻性规划、推理，并在最少的人工干预下执行任务。当这些系统从实验性试点转向业务运营的核心要素时，它们在确保数字韧性方面带来了新的机遇，同时也带来了新的挑战。这是因为代理式AI的自主性、速度和规模，可能会放大即使是微小的数据不一致、碎片化或安全漏洞所带来的影响。
虽然预计到2025年全球AI投资将达到1.5万亿美元，但不到一半的企业领导者对其组织在意外事件中维持服务连续性、安全性和成本控制的能力感到有信心。这种信心的缺乏，加上代理式AI的自主决策及其与关键基础设施交互所带来的深刻复杂性，要求我们重新构想数字韧性。
企业正转向“数据结构”（data fabric）的概念——这是一种集成架构，用于跨所有业务层面连接和治理信息。通过打破数据孤岛并实现对企业级数据的实时访问，数据结构可以赋能人类团队和代理式AI系统，使其能够感知风险、在问题发生前进行预防、在问题发生时快速恢复，并维持运营。
机器数据：代理式AI和数字韧性的基石
早期的AI模型严重依赖人类生成的数据，如文本、音频和视频，但代理式AI要求深入了解组织的数据：即设备、服务器、系统和应用程序生成的日志、指标和其他遥测数据。
要利用代理式AI来推动数字韧性，它必须能够实时、无缝地访问这些数据流。如果没有对机器数据的全面集成，组织就有可能限制AI的能力、错过关键异常，或引入错误。正如思科旗下Splunk的高级副总裁兼总经理Kamal Hathi所强调的，代理式AI系统依赖机器数据来理解上下文、模拟结果并持续适应。这使得机器数据监督成为数字韧性的基石。
Hathi说：“我们经常将机器数据描述为现代企业的‘心跳’。代理式AI系统由这种生命脉搏驱动，需要实时访问信息。至关重要的是，这些智能代理要直接在复杂的机器数据流上运行，并且AI本身也要使用完全相同的数据流进行训练。”
目前很少有组织能够达到充分支持代理式系统所需的机器数据集成水平。这不仅缩小了代理式AI可能应用的使用范围，更糟糕的是，还可能导致输出或操作中的数据异常和错误。在生成式预训练Transformer（GPTs）出现之前设计的自然语言处理（NLP）模型就饱受语言模糊性、偏见和不一致性的困扰。如果组织在没有为模型提供机器数据基础知识的情况下就急于求成，代理式AI也可能出现类似的失误。
对于许多公司来说，跟上AI飞速发展的步伐一直是一个巨大的挑战。Hathi说：“在某些方面，这种创新的速度开始损害我们，因为它带来了我们尚未准备好的风险。问题在于，随着代理式AI的演进，如果需要系统保持安全、有韧性并始终可用，那么依赖于人类文本、音频、视频或印刷数据训练的传统LLM就无法奏效。”
为韧性设计数据结构
为了解决这些缺点并构建数字韧性，技术领导者应该转向Hathi所描述的、更能适应代理式AI需求的数据结构设计。这涉及到将来自安全、IT、业务运营和网络等领域的碎片化资产编织在一起，创建一个集成架构，连接不同的数据源、打破孤岛，并实现实时分析和风险管理。
Hathi说：“一旦你拥有了单一视图，你就可以做所有这些自主和代理式的事情。你的盲点会少得多。决策速度会快得多。而且未知数不再是恐惧的来源，因为你拥有一个能够吸收这些冲击和中断而不会失去连续性的整体系统。”
为了创建这个统一的系统，数据团队必须首先打破部门间数据共享的孤岛，Hathi说。然后，他们必须实施联邦数据架构——一个去中心化的系统，其中自主数据源作为一个单元协同工作而不进行物理合并——以创建一个统一的数据源，同时保持治理和安全。最后，团队必须升级数据平台，以确保这个新统一的视图对代理式AI是可操作的。
在这一过渡期间，如果团队依赖于以结构化数据为模型的传统平台，他们可能会面临技术限制——即主要是定量信息，如客户记录或财务交易，可以组织成预定义格式（通常在表格中）且易于查询。相反，公司需要一个也能管理非结构化数据流（如系统日志、安全事件和应用程序跟踪）的平台，这些数据缺乏统一性，通常是定性的而非定量的。分析、组织和从中提取见解需要由AI驱动的更先进的方法。
利用AI作为协作者
AI本身可以成为创建支持AI系统的数据结构的强大工具。例如，AI驱动的工具可以快速识别不同数据（结构化和非结构化）之间的关系，自动将它们合并为一个真实来源。它们可以检测和纠正错误，并利用NLP来标记和分类数据，使其更易于查找和使用。
代理式AI系统也可以用来增强人类在检测和解读企业非结构化数据流中异常情况的能力。这些异常情况通常超出了人类快速发现或解释的能力范围，导致威胁被遗漏或出现延误。但是，被设计为感知、推理和自主行动的代理式AI系统可以填补这一空白，为企业带来更高水平的数字韧性。
Hathi说：“数字韧性不仅仅是抵御中断。它是关于随着时间的推移而演进和成长。AI代理可以处理海量数据，并从提供安全和监督的人类那里不断学习。这是一个真正的自优化系统。”
循环中的人类
尽管潜力巨大，代理式AI仍应被定位为辅助智能。如果没有适当的监督，AI代理可能会引入应用程序故障或安全风险。
Hathi表示，明确定义的安全护栏和在循环中保持人类是“值得信赖和实用地使用AI的关键”。“AI可以增强人类的决策能力，但最终，人类才是掌舵者。”
本内容由MIT Technology Review的定制内容部门Insights制作。它并非由MIT Technology Review的编辑人员撰写。它由人类撰稿人、编辑、分析师和插画家进行研究、设计和撰写。这包括调查的撰写和调查数据的收集。可能使用的AI工具仅限于通过严格人工审查的次要生产流程。🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区