Elloe AI 旨在成为人工智能的“免疫系统”，快来看看它在 2025 年 Disrupt 大会上的表现

📢 转载信息

原文链接：https://techcrunch.com/2025/10/28/elloe-ai-wants-to-be-the-immune-system-for-ai-check-it-out-at-disrupt-2025/

原文作者：Lorenzo Franceschi-Bicchierai

---

Elloe AI 的创始人 Owen Sakawa 想要打造一个平台，使其成为“人工智能的免疫系统”和“任何 AI 代理的杀毒软件”。

Sakawa 在 TechCrunch Disrupt 大会（Elloe AI 是 Startup Battlefield 竞赛的 Top 20 决赛入围者）前接受采访时表示，该平台的核心思想是为公司的 LLM（大型语言模型）增加一个层面，用以检查偏见、幻觉、错误、合规性问题、错误信息和不安全输出。

“人工智能正以惊人的速度发展，而且它在没有护栏、没有安全网、没有机制来防止其脱轨的情况下，正以这种速度发展，”Sakawa（上图所示）说。

Elloe AI 是一个 API 或 SDK，是一个位于 AI 模型输出层之上的模块，Sakawa 解释说，它是一个“在你 LLM 管道之上的基础设施”。“它就待在那里，基本上对每一个响应进行事实核查。”

这家初创公司的系统有其自己的层面，或者用 Sakawa 的话说，就是“锚点”。

第一个锚点根据可验证的来源对 LLM 的响应进行事实核查。然后，第二个锚点检查输出是否违反了任何法规，例如美国的健康隐私法 HIPAA、欧洲影响深远的《通用数据保护条例》(GDPR)，或者是否泄露了任何个人身份信息 (PII)。最后一个锚点是一个审计跟踪，它显示了所有先前决策是如何做出的，并允许监管机构或任何审计系统的人“根据 Sakawa 的说法，分析该模型做出决策的思维过程、决策的来源以及所有决策的置信度分数”。

需要明确的是，Sakawa 表示 Elloe AI 不是基于 LLM 构建的，因为在他看来，让 LLM 检查其他 LLM 只是“在另一个伤口上贴创可贴”。不过，Elloe AI 的系统确实使用了人工智能技术，例如机器学习。Sakawa 提到，系统中也有人机协作的环节：Elloe AI 的员工负责跟进数据保护和用户保护的新法规。

If you want to learn more about Elloe AI — while also checking out dozens of other companies, hearing their pitches, and listening to guest speakers on four different stages — join us at Disrupt, October 27 to 29, in San Francisco. Learn more here.   

---

🚀 想要体验更好更全面的AI调用？

欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。