📢 转载信息
原文链接：https://openai.com/index/our-approach-to-the-model-spec
原文作者：Jason Wolfe
在 OpenAI，我们坚信 AI 应当是公平、安全且普遍可用的。我们认为，普及 AI 的使用权才是最佳的前进方向：AI 的收益或控制权不应集中在少数人手中，而应让更多人能够接触、理解并塑造它。这正是 OpenAI 模型规范 (Model Spec) 存在的核心原因。
模型规范是我们规范模型行为的正式框架。它界定了我们希望模型在面对用户海量的日常提问时，如何遵循指令、解决冲突、尊重用户自由，以及确保行为安全。更广泛地说，这是我们将“预设的模型行为”明确表达出来的一种尝试。
规范模型行为的公共框架
模型规范是 OpenAI 构建安全、负责任 AI 体系中的关键组成部分。如果说准备框架 (Preparedness Framework) 侧重于前沿能力带来的风险与防护，那么模型规范则处理一个互补的问题：我们的模型在各种场景下应当如何表现。
模型行为的公共透明度对于公平与安全都至关重要。自 2024 年发布以来，模型规范已成为一份不断优化的文档，涵盖了底层价值观、显性规则以及一套根据反馈进行迭代的流程。
模型规范包含哪些内容
模型规范由多种不同类型的模型准则组成：
- 高层级意向与公开承诺： 清晰阐述系统层面的目标，包括赋能用户、预防损害以及维持运营许可。
- 指令层级 (Chain of Command)： 当来自 OpenAI、开发者和用户的指令发生冲突时，模型应当如何化解冲突的逻辑框架。
- 硬性规则与默认设置： 明确不可覆盖的“红线”边界，以及在大规模应用中确保可预测性的默认行为起点。
- 解释辅助工具： 通过决策准则和具体示例，帮助模型在灰色地带保持应用的一致性。
我们为何采用这样的结构
制定模型规范并非简单地罗列规则，其核心在于：
- 透明度与问责： 为公众反馈提供稳定的参考基点，并将规范开源以接受社会监督。
- 协调工具： 为内部不同职能部门（研究、产品、法务等）提供通用词汇和审查机制。
- 弥补智能局限： 在模型自身难以推导正确行为的情况下，通过显性策略提高可预测性。
- 评估基准： 提供一份涵盖核心行为类别的清单，方便进行科学的衡量与评估。
展望未来
模型规范无法做到面面俱到，也无法保证模型在任何情况下都能完全符合预期。但它表达了一个重要的立场：预设行为至关重要，必须保持可理解、可执行且可修订。随着模型与产品的迭代，我们将持续扩展与完善这一框架，确保 AGI 的转型过程始终符合人类利益。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区