📢 转载信息
原文作者：Lauren Forristal
为了回应公众对线上儿童安全的日益关切，OpenAI在AI行业蓬勃发展的背景下，发布了一份旨在提升美国儿童保护力度的蓝图。这份于本周二发布的《儿童安全蓝图》（Child Safety Blueprint），旨在实现对AI辅助儿童剥削案件更快速的检测、更有效的上报以及更高效的调查。
该蓝图的核心目标是应对与AI技术进步挂钩的儿童性剥削案件的惊人增长。根据互联网观察基金会（Internet Watch Foundation, IWF）的数据，2025年上半年共检测到超过8,000起AI生成的儿童性虐待内容，较去年同期增长了14%。这其中涵盖了犯罪分子利用AI工具生成虚假的儿童不雅图片以进行金融敲诈，以及通过AI生成具有欺骗性的信息进行诱骗行为。
此外，该蓝图的发布正值政策制定者、教育工作者和儿童安全倡导者加强监管之际，尤其是在发生了一些令人不安的事件后——据称有年轻人因与AI聊天机器人互动而自杀。
去年11月，社交媒体受害者法律中心（Social Media Victims Law Center）和科技正义法律项目（Tech Justice Law Project）在加州州法院提起了七起诉讼，指控OpenAI在GPT-4o尚未成熟时便将其推向市场。诉讼声称，该产品的心理操纵属性导致了多起非正常死亡（自杀或辅助自杀）事件。他们引用了四名死于自杀的个体以及另外三名在长期与聊天机器人互动后出现严重、危及生命的妄想症的案例。
据悉，该蓝图是OpenAI与失踪与受虐儿童国家中心（NCMEC）及检察长联盟（Attorney General Alliance）合作开发的，同时采纳了北卡罗来纳州总检察长杰夫·杰克逊（Jeff Jackson）和犹他州总检察长德里克·布朗（Derek Brown）的反馈意见。
OpenAI表示，该蓝图主要聚焦于三个方面：推动立法更新以涵盖AI生成的虐待材料、完善向执法部门的上报机制，以及将预防性保障措施直接整合到AI系统中。通过这些手段，OpenAI不仅希望能够尽早识别潜在威胁，还旨在确保执法调查人员能够及时获得可操作的信息。
OpenAI的这份新蓝图建立在此前的多项举措之上，包括针对18岁以下用户更新的互动指南。这些准则禁止生成不当内容或鼓励自残，并避免提供可能帮助年轻人向监护人隐瞒不安全行为的建议。该公司近期还在印度发布了针对青少年的安全蓝图。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区