📢 转载信息
原文链接：https://openai.com/index/openai-to-acquire-promptfoo
原文作者：OpenAI
我们正在收购 Promptfoo，这是一个帮助企业在开发过程中识别和修复 AI 系统漏洞的 AI 安全平台。收购完成后，我们将把 Promptfoo 的技术直接集成到 OpenAI Frontier 中，这是我们用于构建和运营 AI Coworkers 的平台。
随着企业将 AI Coworkers 部署到实际工作流程中，评估、安全和合规性变得越来越基础。企业需要系统化的方法来测试智能体的行为，在部署前检测风险，并保持清晰的记录以支持长期的监督、治理和问责。
由 Ian Webster 和 Michael D’Angelo 领导的 Promptfoo 团队，已经构建了一套强大的工具，得到了超过 25% 的财富 500 强公司的信任，并拥有一个广泛使用的开源 CLI 和库，用于评估和红队测试 LLM 应用。我们将一起继续推进开源项目，同时也在 Frontier 中改进集成企业功能。
“Promptfoo 带来了在企业级规模上评估、保护和测试 AI 系统方面的深厚工程专业知识。他们的工作帮助企业部署安全可靠的 AI 应用，我们很高兴能将这些能力直接引入 Frontier。”
— Srinivas Narayanan, CTO of B2B Applications, OpenAI
我们将基于 Frontier 上为构建智能体（agents）的企业提供的几项核心功能进行扩展：
- 平台内置的安全和安全测试： 自动化安全测试和红队测试能力将成为 Frontier 平台的原生部分，帮助企业识别和修复诸如提示注入、越狱、数据泄露、工具滥用以及违反策略的智能体行为等风险。
- 开发工作流中的安全和评估集成： Frontier 将深度集成到识别、调查和修复智能体风险所需的早期工作流中，使安全成为企业 AI 系统开发和运营的核心部分。
- 监督和问责： 集成的报告和可追溯性将帮助组织记录测试过程，监控随时间的变化，并满足日益增长的 AI 治理、风险和合规性期望。
“我们创立 Promptfoo 是因为开发者需要一种实用的方法来保护 AI 系统。随着 AI 智能体越来越多地连接到实际数据和系统，保护和验证它们变得比以往任何时候都更具挑战性和重要性。加入 OpenAI 使我们能够加速这项工作，为构建实际 AI 系统的团队带来更强的安全、保障和治理能力。”
— Ian Webster, Co-founder and CEO, Promptfoo
我们很高兴欢迎 Promptfoo 团队的加入，并继续构建企业部署安全、可靠 AI 所需的工具。
收购的完成取决于惯例成交条件。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区