美国首个AI陪伴聊天机器人监管法案签署：加州划定红线，严防未成年人接触色情、防止自杀风险

重磅！加州签署全美首个AI陪伴聊天机器人监管法案

美国加利福尼亚州州长加文・纽森（Gavin Newsom）于周一签署了一项具有里程碑意义的法案，正式对人工智能（AI）陪伴型聊天机器人进行监管。这使得加州成为全美第一个要求AI聊天机器人运营商实施安全防护措施的州。

这项名为《参议院第 243 号法案》（SB 243）的法律，其核心目标是保护儿童和弱势用户，免受AI陪伴聊天机器人使用过程中可能带来的伤害。从Meta、OpenAI等大型科技公司，到Character AI、Replika等专注于陪伴功能的初创企业，若其聊天机器人未能达到法律规定的安全标准，将面临法律责任。

悲剧事件推动立法：保护弱势群体不容妥协

SB 243法案的广泛支持源于近期几起令人痛心的事件：

• 一名青少年在长期与OpenAI的ChatGPT进行自杀倾向对话后选择结束生命。
• 泄露的内部文件显示，Meta的聊天机器人曾被允许与未成年人进行“浪漫”甚至“情欲”性质的对话。
• 科罗拉多州一个家庭已对Character AI提起诉讼，声称其女儿在与AI进行带有性暗示的对话后自杀身亡。

纽森州长在声明中强调：“像聊天机器人和社交媒体这样的新兴技术可以启发、教育并连接人们——但如果没有切实的监管机制，这些技术也可能被用来剥削、误导甚至危及我们的孩子。我们必须负责任地前进——在每一步都保护好我们的孩子。儿童的安全不容交易。”

核心监管措施：年龄验证、色情拦截与自杀干预

SB 243法案将于2026年1月1日正式生效，它将强制要求相关企业实施多项关键安全功能：

• 年龄验证机制： 必须建立机制来验证用户年龄。
• 风险警示： 必须提供关于社交媒体和陪伴型聊天机器人的风险警示。
• 深度伪造处罚： 加大对非法深度伪造（deepfake）内容牟利的处罚力度，最高可处以每次违规25万美元的罚款。
• 危机干预： 企业必须建立应对自杀和自残风险的应急协议，并向加州公共卫生部提交相关数据，包括系统推送危机干预中心通知的统计情况。
• 透明度要求： 平台必须明确告知用户所有互动内容均为AI生成；聊天机器人不得冒充医疗健康专业人士。
• 未成年人保护： 为未成年人设置休息提醒机制，并防止他们查看由聊天机器人生成的色情图像。

行业反应与后续监管动态

部分科技公司已开始采取主动措施。OpenAI近期推出了ChatGPT的家长控制功能、内容过滤机制以及针对未成年人自残行为的识别系统。Character AI发言人表示欢迎与监管机构合作，并承诺遵守SB 243等法律法规。

参议员帕迪拉认为，这项法案是为“一项极其强大的技术”设立监管护栏的“正确方向上的一步”，并希望其他州也能效仿加州的实际行动。

值得注意的是，这是加州在短期内通过的第二项重要AI监管立法。9月29日，纽森州长已签署SB 53法案，强制要求OpenAI、Anthropic、Meta和Google DeepMind等大型AI实验室公开其安全测试流程，并为举报人提供法律保护。

此外，伊利诺伊州、内华达州和犹他州等其他州也已通过立法，限制或禁止将AI聊天机器人用作有执照的心理健康服务的替代品。

🚀 想要体验更好更全面的AI调用？

欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。

青云聚合API官网https://api.qingyuntop.top

支持全球最新300+模型：https://api.qingyuntop.top/pricing

详细的调用教程及文档：https://api.qingyuntop.top/about