📢 转载信息
原文链接：https://www.wired.com/story/openai-child-safety-reports-ncmec/
原文作者：Maddy Varner
根据OpenAI最近的一份更新报告，在2025年上半年，该公司向全国失踪和被剥削儿童中心（NCMEC）提交的儿童剥削事件报告数量，比2024年同期激增了80倍。NCMEC的CyberTipline是一个经国会授权的中心，用于报告儿童色情物品（CSAM）和其他形式的儿童剥削。
法律要求公司将疑似儿童剥削的事件报告给CyberTipline。当公司提交报告后，NCMEC会对报告进行审查，然后转交给适当的执法机构进行调查。
与NCMEC报告相关的统计数据可能比较微妙。报告数量的增加有时可能表明平台自动化审核或其判断报告是否必要的标准发生了变化，而不是一定意味着恶意活动的增加。
此外，同一内容可能会被多次报告，而一份报告可能涉及多件内容。一些平台，包括OpenAI，会披露报告数量和涉及的内容总数，以提供更全面的情况。
OpenAI发言人Gaby Raila在一份声明中表示，公司在2024年底进行了投资，“以提高我们审查和处理报告的能力，从而跟上当前和未来的用户增长步伐。” Raila还提到，这一时间段与“引入更多允许上传图像的产品界面以及我们产品日益普及”相吻合，这些因素促成了报告数量的增加。8月份，ChatGPT的副总裁兼负责人Nick Turley宣布，该应用的每周活跃用户数量是前一年的四倍。
在2025年上半年，OpenAI发送的CyberTipline报告数量与OpenAI报告涉及的内容数量大致相同——分别为75,027份报告和74,559件内容。而在2024年上半年，OpenAI发送了947份CyberTipline报告，涉及3,252件内容。在两个时间段之间，报告数量和报告涉及的内容数量都出现了显著增长。
在此上下文中，“内容”可能意味着多种含义。OpenAI表示，它会向NCMEC报告所有CSAM实例，包括上传和请求。除了允许用户上传文件（包括图像）并能生成文本和图像响应的ChatGPT应用外，OpenAI还通过API访问提供对其模型的访问。最新的NCMEC统计数据不包括任何与视频生成应用Sora相关的报告，因为Sora于9月发布，时间超出了本次更新的时间范围。
报告激增的模式与NCMEC在生成式AI兴起后对其CyberTipline数据的总体观察相似。该中心对所有CyberTipline数据的分析发现，涉及生成式AI的报告在2023年至2024年间增长了1,325%。NCMEC尚未发布2025年的数据，虽然像Google这样的其他大型AI实验室会公布他们向NCMEC报告的统计数据，但他们不会说明其中有多少百分比与AI相关。
OpenAI的这次更新是在该公司及其竞争对手面临日益严格的儿童安全问题审查的背景下发布的，这些问题不仅限于CSAM。去年夏天，44个州的司法部长向包括OpenAI、Meta、Character.AI和Google在内的多家AI公司发送了一封联合信函，警告称他们将“动用一切权力来保护儿童免受掠夺性人工智能产品的剥削”。OpenAI和Character.AI都因指控聊天机器人导致其子女死亡的家庭或代表个人提起的多起诉讼而面临压力。秋季，美国参议院司法委员会就AI聊天机器人的危害召开了听证会，美国联邦贸易委员会（FTC）也启动了对AI伴侣机器人的市场调查，其中包含关于公司如何减轻负面影响（特别是对儿童的影响）的问题。（我之前曾在FTC任职，并在离开该机构前参与了这项市场调查。）
近几个月来，OpenAI更广泛地推出了新的安全重点工具。9月，OpenAI为ChatGPT推出了一些新功能，包括家长控制，这是其“为家庭提供工具以支持青少年使用AI”工作的一部分。父母和青少年可以链接他们的账户，父母可以更改其青少年的设置，包括关闭语音模式和记忆功能，移除ChatGPT生成图像的能力，以及让孩子选择退出模型训练。OpenAI表示，如果检测到青少年对话中出现自残迹象，它也可能会通知父母，如果检测到迫在眉睫的生命威胁且无法联系到父母，可能会通知执法部门。
10月下旬，为结束与加州司法部就其拟议的资本重组计划进行的谈判，OpenAI同意“继续采取措施，以减轻人工智能和AGI的开发和部署对青少年和其他人的风险。”次月，OpenAI发布了其青少年安全蓝图，其中表示公司正在不断提高检测儿童性虐待和剥削材料的能力，并向包括NCMEC在内的相关部门报告已确认的CSAM。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区