📢 转载信息
原文作者：Connie Loizos
在可能标志着科技行业首次就人工智能相关损害达成重大法律和解的事件中，谷歌和初创公司 Character.AI 正在与一些青少年的家属协商和解条款。这些青少年在与 Character.AI 的聊天机器人伴侣互动后，死于自杀或自我伤害。各方已原则上同意和解，现在需要完成更艰巨的细节敲定工作。
这些是首次针对指控人工智能公司伤害用户的诉讼的和解，这一法律新领域让 OpenAI 和 Meta 等公司在旁观的同时，也因面临类似的诉讼而感到紧张。
Character.AI 成立于 2021 年，由前谷歌工程师创建，这些工程师在 2024 年以 27 亿美元的交易返回了老雇主。该公司邀请用户与人工智能角色进行聊天。其中最令人痛心的一个案件涉及 14 岁的 Sewell Setzer III，他在与一个“丹妮莉丝·坦格利安”机器人进行性化对话后自杀。他的母亲 Megan Garcia 曾告诉参议院，当公司“明知故犯地设计出杀害儿童的有害人工智能技术时，就必须承担法律责任”。
另一项诉讼描述了一名 17 岁的青少年，其聊天机器人鼓励了自我伤害，并建议为了限制屏幕时间而谋杀父母是合理的。Character.AI 在去年 10 月禁止了未成年人使用，它告诉 TechCrunch。和解很可能包括经济赔偿，尽管周三公布的法庭文件中并未承认任何责任。
TechCrunch 已联系了这两家公司征求意见。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区