OpenAI Sora信息流设计理念：鼓励创造，平衡安全与自由

OpenAI Sora信息流设计理念

OpenAI 推出 Sora 信息流的初衷非常明确：帮助人们了解 Sora 的无限可能，并激发他们的创造力。我们围绕以下核心原则来构建这一体验：

核心设计原则

• 优化创造力。 我们设计的推荐机制更倾向于鼓励创造和积极的互动，而不是被动的无意识滚动。我们相信这能让 Sora 成为一个更有趣、更令人愉悦的平台。
• 用户主导。 信息流提供可调节的排名系统，让用户可以精确告诉算法他们此刻的心情和偏好。此外，家长也可以通过 ChatGPT 的家长控制功能，为青少年关闭信息流的个性化推荐和无限滚动。
• 优先建立连接。 Sora 旨在帮助人们通过有趣、神奇的互动来加强和建立新的联系。我们会优先推荐那些能够促进用户间互动的相关内容，而非孤立的、不相关的全局内容。
• 平衡安全与表达自由。 信息流的设计目标是让所有用户都能广泛使用且感到安全。我们从源头上设置了强大的安全护栏，防止不安全或有害内容的生成，并会主动屏蔽违反使用政策的内容。同时，我们也为表达、创造力和社区留出了空间。我们深知推荐系统是一个动态发展的过程，我们将根据实际使用情况不断调整细节，以更好地服务于上述原则。

信息流如何运作

我们的推荐算法旨在为你提供个性化的推荐内容，激发你和他人的创造力。由于每个人的兴趣和品味各不相同，我们构建了一个个性化的系统来更好地实现这一使命。

为了个性化你的 Sora 信息流，我们可能会考虑以下信号：

• 你在 Sora 上的活动： 这可能包括你的帖子、关注的账号、点赞和评论的帖子，以及你进行二次创作的内容。它还可能包括你的设备访问 Sora 时所在的概括性地理位置（例如城市），这基于你的 IP 地址等信息。
• 你的 ChatGPT 数据： 我们可能会参考你的 ChatGPT 历史记录，但你随时可以在设置中的 Sora 数据控制选项里关闭此功能。
• 内容互动信号： 这可能包括观看量、点赞、评论和二次创作情况。
• 作者信号： 这可能包括关注者数量、发布过的其他内容以及过去帖子的互动情况。
• 安全信号： 内容是否被标记为违规或不当。

我们可能会使用这些信号来预测你可能喜欢看并想进行二次创作的内容。

家长还可以通过 ChatGPT 中的家长控制功能，为他们的青少年关闭信息流个性化推荐并管理无限滚动功能。

如何在安全与表达之间取得平衡

让 Sora 信息流对所有用户都安全有趣，意味着要在保护用户免受有害内容侵害与为创造力的蓬勃发展留出足够空间之间走一条谨慎的路线。

第一道防线：创作环节

由于每个帖子都是在 Sora 内部生成的，我们可以建立强大的护栏，在内容生成之前就阻止不安全或有害内容的产生。这包括对色情内容、涉及真实人物的血腥暴力、极端主义宣传、仇恨言论以及宣扬自残或饮食失调的内容的限制。

超越生成：信息流的适龄性

此外，信息流的设计旨在适合所有 Sora 用户，包括青少年——因此我们会过滤掉可能有害、不安全或不适合特定年龄段的内容。我们会优先处理可能造成最大伤害的内容，包括血腥的自残、性或暴力内容；不健康的节食或运动行为；基于外貌的批评或比较以及网络欺凌内容；可能被未成年人模仿的危险挑战；极端冒犯性的语言或美化仇恨/抑郁/宣扬暴力的内容；或宣传受年龄限制的商品或活动（如非法药物或有害物质）。

自动化与人工审核相结合

我们使用自动化工具扫描所有信息流内容，以确保其符合我们的 全球使用政策和信息流资格标准。 随着我们对新风险了解的加深，这些系统会不断更新。如果你看到的内容可能违反我们的使用政策，可以进行举报。

我们辅以人工审核。 我们的团队会监控用户举报，并主动检查信息流活动，以捕捉自动化工具可能遗漏的内容。同样，如果你看到违反使用政策的内容，可以进行举报。

在过滤与自由之间找到平衡点

但安全不仅仅是严格的过滤器。 过多的限制会扼杀创造力，而过度的自由则会削弱信任。我们的目标是取得平衡：在风险最高的地方设置主动护栏，同时结合反应式的“举报+移除”系统，让用户有探索和创造的空间，并确保我们能在问题出现时迅速采取行动。这种方法在 ChatGPT 的 4o 图像生成模型中取得了良好效果，我们也将这种理念应用于 Sora。

我们知道，这个平衡点在第一天不可能做到完美。推荐系统和安全模型是不断发展和演进的系统，你的反馈对于我们完善它们至关重要。我们期待与大家共同学习，并持续改进。

继续阅读

Sora 2 现已推出

研究2025年9月30日

Sora 2 系统卡

出版物2025年9月30日

推出家长控制功能

产品2025年9月29日