📢 转载信息
原文链接：https://openai.com/index/openai-to-acquire-promptfoo
原文作者：OpenAI
OpenAI 将收购 Promptfoo
加速 OpenAI Frontier 的智能体安全测试与评估能力
我们正在收购 AI 安全平台 Promptfoo。该平台旨在帮助企业在开发阶段识别并修复 AI 系统中的漏洞。收购完成后，我们会将 Promptfoo 的技术直接集成到 OpenAI Frontier 中，这是我们用于构建和运行 AI 协作伙伴的平台。
随着企业将 AI 协作伙伴部署到实际业务流中，评估、安全与合规性已成为基础性要求。企业需要系统化的方法来测试智能体的行为、在部署前发现风险，并保持清晰的记录，以支持长期的监督、治理与问责。
Promptfoo 团队由 Ian Webster 和 Michael D’Angelo 领导，他们构建了一套强大的工具，并赢得了超过 25% 的财富 500 强企业的信赖。此外，他们还拥有一套广泛使用的开源（在新窗口中打开）命令行界面（CLI）和库，用于对大语言模型（LLM）应用进行评估和红队测试。我们将共同致力于持续建设该开源项目，同时进一步提升 Frontier 内部集成的企业级能力。
“Promptfoo 在企业级 AI 系统的评估、安全与测试领域拥有深厚的技术底蕴。他们的工作成果正助力企业部署安全、可靠的 AI 应用。我们非常期待能将这些能力直接引入 Frontier 平台。”
— Barret Zoph，OpenAI B2B 总经理
针对在 Frontier 上构建智能体的企业，我们将重点加强以下几项核心能力：
- 平台内置的安全与保障测试：自动化安全测试与红队测试能力将成为 Frontier 平台的原生组成部分。这将帮助企业识别并修复各类风险，包括提示注入（prompt injections）、越狱（jailbreaks）、数据泄露、工具滥用以及超出策略范围的智能体行为。
- 集成于开发工作流的安全与评估：Frontier 将深度整合相关工作流，以便更早地识别、调查并修复智能体风险，让安全成为企业级 AI 系统开发与运行的核心环节。
- 监督与问责：集成的报告与追溯能力将帮助组织记录测试过程、监测长期变化，并满足日益增长的 AI 治理、风险管理与合规（GRC）要求。
“Promptfoo 诞生于一个迫切的需求 — 赋予开发者守护 AI 安全的实战能力。随着 AI 智能体与真实数据及系统的连接日益紧密，对其进行安全防护与验证变得比以往任何时候都更具挑战，也更为关键。加入 OpenAI 让我们能全力加速，为那些致力于构建现实世界 AI 系统的团队提供更强大的安全保障与治理能力。”
— Ian Webster，Promptfoo 联合创始人兼首席执行官
我们由衷欢迎 Promptfoo 团队的加入。未来，我们将共同深耕技术，为企业打造全方位的工具护航，助力安全可靠的 AI 落地应用。
本次收购的最终完成仍需满足惯例交割条件。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区