📢 转载信息
原文链接：https://www.wired.com/story/openai-child-safety-reports-ncmec/
原文作者：Maddy Varner
根据 OpenAI 最近的更新报告，在 2025 年上半年，该公司向美国国家失踪与受剥削儿童中心（NCMEC）提交的儿童剥削事件报告数量，比 2024 年同期增加了 80 倍。
NCMEC 的 CyberTipline 是一个经国会授权的信息交换中心，专门用于报告儿童色情材料（CSAM）和其他形式的儿童剥削行为。
法律要求公司必须向 CyberTipline 报告明显的儿童剥削事件。当公司提交报告后，NCMEC 会进行审查，然后将其转交给适当的执法机构进行调查。
与 NCMEC 报告相关的统计数据可能比较微妙。报告数量的增加有时可能表明平台自动化审核或用于判断报告是否必要的标准发生了变化，而不一定意味着实际的恶意活动有所增加。
此外，同一内容可能会被多次报告，而单个报告可能涉及多件内容。一些平台，包括 OpenAI，会披露报告数量和涉及的内容总数，以便更全面地了解情况。
OpenAI 发言人 Gaby Raila 在一份声明中表示，公司在 2024 年底进行了投资，“以提高我们审查和处理报告的能力，从而跟上当前和未来的用户增长步伐。” Raila 还说，这一时间范围与“引入更多允许上传图片的产品表面以及我们产品日益普及”相吻合，这些因素都导致了报告数量的增加。八月份，ChatGPT 部门的副总裁兼负责人 Nick Turley 宣布，该应用的每周活跃用户数是前一年的四倍。
在 2025 年上半年，OpenAI 发送给 CyberTipline 的报告数量与 OpenAI 报告涉及的内容数量大致相当——分别为 75,027 份报告和 74,559 件内容。而在 2024 年上半年，该公司发送了 947 份 CyberTipline 报告，涉及 3,252 件内容。在这两个时间段之间，报告数量和报告涉及的内容数量都出现了显著增加。
在此上下文中，“内容”可能意味着多种含义。OpenAI 表示，他们会向 NCMEC 报告所有 CSAM 实例，包括上传和请求。除了允许用户上传文件（包括图像）并能生成文本和图像的 ChatGPT 应用外，OpenAI 还通过 API 接口提供对其模型的访问。最新的 NCMEC 统计数据不包括与视频生成应用 Sora 相关的任何报告，因为该应用于 9 月发布，晚于本次更新所涵盖的时间范围。
报告激增的模式与 NCMEC 观察到的更广泛的生成式 AI 带来的 CyberTipline 趋势相似。该中心对所有 CyberTipline 数据的分析显示，涉及生成式 AI 的报告在 2023 年至 2024 年间增长了 1,325%。NCMEC 尚未发布 2025 年的数据，虽然谷歌等其他大型 AI 实验室会公布他们向 NCMEC 报告的统计数据，但他们没有具体说明其中有多少比例与 AI 相关。
OpenAI 的这份更新发布之际，正值该公司及其竞争对手因除 CSAM 之外的其他儿童安全问题而受到日益严格的审查。今年夏天，44 个州的检察长向包括 OpenAI、Meta、Character.AI 和谷歌在内的多家 AI 公司发出了联合信函，警告称他们将“利用一切权力保护儿童免受掠夺性人工智能产品的剥削”。OpenAI 和 Character.AI 都面临着来自家庭或代表个人提出的多项诉讼，这些诉讼声称聊天机器人导致了他们孩子的死亡。秋季，美国参议院司法委员会就 AI 聊天机器人的危害举行了听证会，美国联邦贸易委员会（FTC）启动了对 AI 伴侣机器人的市场调查，其中就包括询问公司如何减轻负面影响，特别是对儿童的影响。（我此前曾在 FTC 工作，在离开该机构前被分配到这项市场调查工作。）
最近几个月，OpenAI 更广泛地推出了新的安全重点工具。九月份，OpenAI 为 ChatGPT 推出了一系列新功能，包括家长控制功能，这是其“为家庭提供支持青少年使用 AI 工具”工作的一部分。父母和青少年可以关联他们的账户，父母可以更改青少年的设置，包括关闭语音模式和记忆功能、移除 ChatGPT 生成图像的能力，以及让孩子选择退出模型训练。OpenAI 表示，如果检测到青少年对话中出现自残迹象，他们也可能会通知父母，如果检测到迫在眉睫的生命威胁且无法联系到父母，他们可能会通知执法部门。
十月下旬，为结束与加利福尼亚州司法部就其拟议的资本重组计划的谈判，OpenAI 同意“继续采取措施，以减轻在开发和部署 AI 和 AGI 过程中对青少年和其他人构成的风险。”下个月，OpenAI 发布了其《青少年安全蓝图》，其中表示他们正在不断提高检测儿童性虐待和剥削材料的能力，并将确认的 CSAM 报告给相关机构，包括 NCMEC。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区