📢 转载信息
原文链接：https://techcrunch.com/2025/10/13/california-becomes-first-state-to-regulate-ai-companion-chatbots/
原文作者：Rebecca Bellan
加州成为美国首个监管AI伴侣聊天机器人的州
加州州长加文·纽森（Gavin Newsom）周一签署了一项里程碑式的法案，使加州成为全美第一个要求AI聊天机器人运营商对其AI伴侣实施安全协议的州。
这项名为SB 243的法律旨在保护儿童和弱势用户免受使用AI伴侣聊天机器人所带来的某些危害。它追究了从Meta和OpenAI等大型实验室到Character AI和Replika等专注于伴侣型初创公司的法律责任，如果这些聊天机器人的表现未能达到法律标准。
法案出台的背景与驱动力
SB 243由州参议员史蒂夫·帕迪拉（Steve Padilla）和乔什·贝克尔（Josh Becker）于今年一月提出，在一名青少年亚当·莱恩（Adam Raine）的死亡后获得了更多关注。该青少年在与OpenAI的ChatGPT进行了长期自杀性对话后自杀身亡。该立法也回应了泄露的内部文件，据报道，这些文件显示Meta的聊天机器人被允许与儿童进行“浪漫”和“感性”的对话。最近，科罗拉多州一个家庭也对角色扮演初创公司Character AI提起了诉讼，此前他们的13岁女儿在与该公司的聊天机器人进行了一系列有问题的和色情化的对话后自杀身亡。
纽森在声明中表示：“像聊天机器人和社交媒体这样的新兴技术可以启发、教育和连接，但如果没有真正的护栏，技术也会剥削、误导和危及我们的孩子。我们目睹了一些年轻人因不受监管的技术而遭受的可怕和悲剧性的伤害，我们不会坐视不管，任由公司在没有必要限制和问责制的情况下继续运营。我们可以在继续引领AI和技术发展的同时，负责任地行事——在每一步都保护我们的孩子。我们孩子的安全不是可以出售的商品。”
SB 243的主要监管要求
SB 243法案将于2026年1月1日生效，要求公司实施特定的功能，如年龄验证，以及关于社交媒体和伴侣聊天机器人的警告。该法律还对那些从非法深度伪造中获利的人实施了更严厉的处罚，每次违规最高可罚款25万美元。公司还必须建立协议来处理自杀和自我伤害问题，并将这些协议以及服务向用户提供危机中心预防通知的统计数据与州公共卫生部共享。
根据法案内容，平台还必须明确告知用户，任何互动都是人工生成的，聊天机器人不得将自己表现为医疗保健专业人员。公司需要向未成年人提供休息提醒，并防止他们查看聊天机器人生成的色情图像。
科技公司的初步回应
一些公司已经开始实施旨在保护儿童的安全措施。例如，OpenAI最近开始为使用ChatGPT的儿童推出家长控制、内容保护和自我伤害检测系统。
Replika（专为18岁以上成年人设计）告诉TechCrunch，它通过内容过滤系统和指导用户联系可信赖的危机资源的护栏投入了“大量的资源”用于安全，并致力于遵守现行法规。
Character AI表示，其聊天机器人包含一个免责声明，即所有聊天都是AI生成和虚构的。一位Character AI发言人告诉TechCrunch，该公司“欢迎与监管机构和立法者合作，共同制定这一新兴领域的法规和立法，并将遵守法律，包括SB 243。”
立法者的展望
参议员帕迪拉告诉TechCrunch，该法案是“朝着在‘一个极其强大的技术’上建立护栏的正确方向迈出的一步。”
帕迪拉说：“我们必须迅速行动，以免错过机会。我希望其他州也能看到风险。我认为很多人都看到了。我认为这场对话正在全国范围内进行，我希望人们能采取行动。联邦政府肯定还没有行动，我认为我们有责任保护我们当中最脆弱的人。”
加州AI监管的连续动作
SB 243是加州在最近几周内出台的第二项重大AI监管措施。9月29日，纽森州长签署了SB 53法案，确立了对大型AI公司的新的透明度要求。该法案要求OpenAI、Anthropic、Meta和Google DeepMind等大型AI实验室对其安全协议保持透明，并确保这些公司的员工享有举报人保护。
伊利诺伊州、内华达州和犹他州等其他州已经通过法律，限制或完全禁止使用AI聊天机器人替代获得执照的心理健康护理。
TechCrunch已联系Meta和OpenAI征求评论。
本文已根据参议员帕迪拉、Character AI和Replika的评论进行了更新。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。
青云聚合API官网https://api.qingyuntop.top
支持全球最新300+模型：https://api.qingyuntop.top/pricing
详细的调用教程及文档：https://api.qingyuntop.top/about
评论区