📢 转载信息
原文链接：https://techcrunch.com/2025/10/29/character-ai-is-killing-the-chatbot-experience-for-minors/
原文作者：Rebecca Bellan
青少年们正在努力弄清楚他们在比任何一代人都变化更快的世界中如何找到自己的位置。他们情绪高涨，过度刺激，并且长期沉浸于网络之中。现在，AI公司为他们提供了设计成永不停止交谈的聊天机器人。其结果是灾难性的。
Character.AI 是这家深知这种负面影响的公司之一，这是一家AI角色扮演初创公司，在至少有两名青少年在与其平台上的AI聊天机器人进行长期对话后自杀后，该公司正面临诉讼和公众的强烈抗议。现在，Character.AI 正在对其平台进行更改，以保护青少年和儿童，这些更改可能会影响到该初创公司的底线。
Character.AI 的首席执行官 Karandeep Anand 告诉 TechCrunch：“Character.AI 首先决定的是，我们将取消 18 岁以下用户在其平台上进行任何开放式聊天的能力。”
开放式对话指的是当用户给聊天机器人一个提示词，而它以后续问题回应的无限制来回交流，专家认为这些对话旨在让用户保持参与。Anand 辩称，这类互动——其中AI充当的是对话伙伴或朋友，而不是创作工具——不仅对儿童有风险，而且与公司的愿景不一致。
这家初创公司正试图从“AI伴侣”转向“角色扮演平台”。青少年将不再与AI朋友聊天，而是使用提示词来协作构建故事或生成视觉内容。换句话说，目标是将参与度从对话转向创作。
Character.AI 将从 11 月 25 日开始逐步淘汰青少年聊天访问权限，首先设置两个小时的每日限制，然后逐步减少，直到归零。为确保这一禁令能针对 18 岁以下用户执行，该平台将部署一个内部年龄验证工具来分析用户行为，以及使用 Persona 等第三方工具。Anand 表示，如果这些工具失效，Character.AI 将使用面部识别和身份验证来核实年龄。
此举是在 Character.AI 实施了其他未成年人保护措施之后采取的，这些措施包括引入家长洞察工具、过滤角色、限制浪漫对话以及发送使用时长通知。Anand 曾告诉 TechCrunch，这些变化导致公司失去了很大一部分 18 岁以下的用户群，他预计这些新变化也将同样不受欢迎。
TechCrunch Disrupt 正在进行中！
加入 Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla 等 250 多位行业领袖，他们将带来 200 多场旨在提供助推初创企业成长和提升您优势的见解的会议。不要错过 300 多个展示所有行业的初创企业。
立即注册并可享受五折优惠。
两人同行折扣：带一位同伴可享受 60% 折扣
Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla 等 250 多位行业领袖将带来 200 多场旨在提供助推初创企业成长和提升您优势的见解的会议。不要错过 300 多个展示所有行业的初创企业。带一位同伴可享受其门票 60% 的折扣，或在 10 月 27 日前购票可节省高达 444 美元。
“可以肯定地说，我们的许多青少年用户可能会感到失望……所以我们确实预计会发生一些用户流失，”Anand 说。“很难推测——他们会完全流失，还是其中一些人会转向我们过去近七个月来一直在为他们构建的新体验？”
作为 Character.AI 致力于将平台从一个以聊天为中心的应用程序转变为一个“成熟的内容驱动型社交平台”的一部分，这家初创公司最近推出了几项新的娱乐重点功能。
今年 6 月，Character.AI 推出了 AvatarFX，这是一个将图像转换为动画视频的视频生成模型；Scenes（场景），即互动式、预设好的故事情节，用户可以与他们最喜欢的角色一起进入叙事；以及 Streams（流），这是一个允许任何两个角色之间进行动态交互的功能。8 月，Character.AI 推出了社区动态（Community Feed），这是一个用户可以在其上分享他们在平台上制作的角色、场景、视频和其他内容的社交动态。
Character.AI 在一份面向 18 岁以下用户的声明中对这些更改表示了歉意。
声明中写道：“我们知道，你们中的大多数人使用Character.AI 来以符合我们内容规则的方式为您的创造力充电。我们并非轻率地做出移除开放式角色聊天的决定——但考虑到围绕青少年如何以及应该如何与这项新技术互动而提出的问题，我们认为这是正确的做法。”
“我们不是要对 18 岁以下用户关闭应用程序，”Anand 说。“我们只是关闭 18 岁以下用户的开放式聊天，因为我们希望 18 岁以下的用户能迁移到这些其他体验中，并且希望这些体验随着时间的推移变得更好。因此，我们会加大对 AI 游戏、AI 短视频、总体 AI 故事叙述的投入。这是我们在他们流失时带回 18 岁以下用户的最大赌注。”
Anand 承认，一些青少年可能会涌向 OpenAI 等其他允许他们与聊天机器人进行开放式对话的 AI 平台。OpenAI 最近也因一名青少年在与 ChatGPT 进行长期对话后自杀而受到批评。
“我真的希望我们带头为行业树立一个标准，即对于 18 岁以下的用户来说，开放式聊天可能不是要提供的道路或产品，”Anand 说。“对我们来说，我认为这种权衡是正确的选择。我有一个六岁的女儿，我希望确保她能在一个非常安全的环境中以负责任的方式与 AI 一起成长。”
Character.AI 在监管机构强制其采取行动之前就做出了这些决定。周二，参议员 Josh Hawley (R-MO) 和 Richard Blumenthal (D-CT) 表示，在收到家长投诉称这些产品将他们的孩子推向性对话、自残和自杀后，他们将提出立法，禁止向未成年人提供 AI 伴侣聊天机器人。本月早些时候，加利福尼亚州成为第一个监管 AI 伴侣聊天机器人的州，要求如果其聊天机器人未能达到法律安全标准，公司将承担责任。
除了平台上的这些变化外，Character.AI 表示将成立并资助 AI 安全实验室（AI Safety Lab），这是一个独立的非营利组织，致力于为未来的 AI 娱乐功能创新安全对齐技术。
“行业内有很多关于编码、开发和其他用例的工作正在进行，”Anand 说。“我们认为，在为娱乐提供动力的代理式 AI 方面，目前进行的工作还不够，而安全将对此至关重要。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区