核心原则

OpenAI 推出 Sora 信息流（Feed）的初衷非常明确：帮助人们了解AI能做到什么，并激发他们的创作灵感。为此，我们确立了以下核心设计原则：

• 优化创造力。 我们的排名设计倾向于奖励创造性和积极参与，而非被动的无意识滚动。我们相信这能让使用 Sora 的体验更加愉悦。
• 赋予用户控制权。 信息流默认提供可调节的排名机制，用户可以精确告知算法他们当前的心情和偏好。此外，家长还可以通过 ChatGPT 的家长控制功能，为青少年关闭信息流的个性化推荐和连续滚动。
• 优先考虑连接。 我们希望 Sora 能帮助人们建立和加强联系，尤其是在有趣的、充满魔力的 Cameo（角色扮演/互动）流程中。与他人建立连接的内容将比那些孤立的、无连接的内容获得更高的权重。
• 平衡安全与自由表达。 信息流的设计旨在广泛适用且安全。强大的护栏从源头上阻止不安全或有害内容的生成，我们还会主动屏蔽可能违反使用政策的内容。同时，我们也为表达、创造力和社区留出空间。我们深知推荐系统是不断发展的，随着真实使用数据的反馈，我们将根据这些原则不断调整细节。

信息流工作原理

我们的推荐算法旨在为您提供个性化的建议，激发您和他人的创造力。由于每个人的兴趣和品味各不相同，我们构建了一个个性化系统来更好地服务于这一使命。

为了个性化您的 Sora 信息流，我们可能会考虑以下信号：

• 您在 Sora 上的活动： 这可能包括您的帖子、关注的账户、点赞和评论的内容，以及您进行混音（remixed）的内容。它还可能包括您的设备访问 Sora 的大致地理位置（如城市），基于IP地址等信息。
• 您的 ChatGPT 数据： 我们可能会参考您的 ChatGPT 历史记录，但您随时可以在设置中的 Sora 数据控制选项中将其关闭。
• 内容互动信号： 这可能包括观看量、点赞、评论和混音次数。
• 作者信号： 这可能包括关注者数量、发布过的其他内容以及以往帖子的互动情况。
• 安全信号： 内容是否被视为违规或不恰当。

我们可能会使用这些信号来预测您可能喜欢看到并与之互动的相关内容。

家长还可以使用 ChatGPT 中的家长控制功能，为青少年关闭信息流个性化设置并管理连续滚动。

如何平衡安全与表达

确保 Sora 信息流对所有用户来说既安全又有趣，需要在维护安全与保证创作自由之间走好钢丝。

我们的第一道防线是在内容创作时。 由于所有内容都是在 Sora 内部生成的，我们可以构建强大的护栏，在有害内容产生之前就将其阻止。这包括对色情内容、涉及真实人物的露骨暴力、极端主义宣传、仇恨言论以及宣扬自我伤害或饮食失调的内容的限制。

超越生成阶段，信息流的设计旨在适合所有 Sora 用户，包括青少年——因此我们会过滤掉可能有害、不安全或不适合年龄的内容。我们优先处理可能造成最大伤害的内容，包括露骨的自我伤害、色情或暴力内容；不健康的节食或运动行为；基于外貌的批评或比较以及欺凌内容；可能被未成年人模仿的危险挑战；极端冒犯性的语言或宣扬仇恨、抑郁或暴力的内容；以及宣传限制级物品或活动（如非法药物或有害物质）的内容。

我们使用自动化工具扫描所有信息流内容，以确保其符合我们的 全球使用政策和信息流准入标准。随着我们对新风险的了解加深，这些系统会不断更新。如果您看到任何不符合我们使用政策的内容，您可以进行举报。

我们通过人工审核来补充自动化工具。 我们的团队会监控用户举报，并主动检查信息流活动，以捕捉自动化工具可能遗漏的内容。如果您看到任何不符合我们使用政策的内容，您可以进行举报。

但安全不仅仅是严格的过滤。 过多的限制会扼杀创造力，而过多的自由则会破坏信任。我们的目标是实现平衡：在风险最高的领域设置主动护栏，同时辅以“举报+删除”的反应系统，让用户有探索和创作的空间，并确保我们能在问题出现时迅速采取行动。这种方法在 ChatGPT 的 4o 图像生成模型中效果良好，我们正在将这一理念应用到 Sora 中。

我们也知道，我们不可能从第一天起就将这种平衡做到完美。推荐系统和安全模型是不断发展和演进的系统，您的反馈对于我们改进它们至关重要。我们期待与您共同学习和进步。