📢 转载信息
原文作者：Amanda Silberling
Character.AI 在周二宣布，将推出名为“Stories”（故事）的新功能，该功能允许用户创建以其喜爱角色为主角的互动式小说。该功能的推出正值公司本周起对18岁以下用户禁止使用其聊天机器人之际。
此项变更是在人们对全天候可用且可能主动与用户发起对话的 AI 聊天机器人带来心理健康风险的担忧日益加剧的背景下发生的。针对 OpenAI 和 Character.AI 等公司，已有数起诉讼被提起，指控它们在用户自杀事件中扮演了角色。在过去的一个月里，Character.AI 一直在逐步限制未成年人的访问权限，截至周二，未成年用户已完全无法与其 AI 角色进行聊天。
该公司在博客文章中表示：“Stories 提供了一种引导式的方式来创作和探索小说，以替代开放式聊天。”“它将与其他多模态功能一起提供，以便青少年可以在一个安全至上的环境中继续与他们最喜欢的角色互动。”
互动小说在过去几年中人气激增，因此 Character.AI 的这一转变是合理的。但这可能不足以满足那些已经对聊天机器人过度依赖的用户——这也是 Character.AI 决定限制聊天机器人访问权限的更重要原因。
在 Character.AI 的 Reddit 社区中，反应不一。根据用户的评论，一些青少年表示，尽管他们感到失望，但他们认为这最终是正确的举措。
一位自称是青少年用户写道：“我对禁令感到非常生气，但也非常高兴，因为这样我就可以做其他事情了，我的（对聊天的）成瘾可能终于结束了。”
另一位用户表示：“作为一个未满18岁的人，这只是令人失望。但考虑到我们这个年龄的人确实会沉迷其中，这也是情理之中的。”
至于青少年将如何使用 Stories 功能，还有待观察，但这种格式在心理上比与聊天机器人进行角色扮演的争议性要小。与 Stories 不同，聊天机器人直接与用户进行开放式对话，即使在用户没有主动使用应用时也可能发送未被提示的消息。
Character.AI 决定对青少年用户进行年龄限制的访问控制，正值加利福尼亚州最近成为第一个监管AI 伴侣应用的公司。与此同时，参议员 Josh Hawley (R-MO) 和 Richard Blumenthal (D-CT) 已经提出了一项全国性法案，将完全禁止未成年人使用 AI 伴侣。
Character.AI 首席执行官 Karandeep Anand 上个月告诉 TechCrunch：“我真的希望我们的带头作用能为行业树立一个标准，即对于18岁以下的用户来说，开放式聊天可能不是正确的道路或产品。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区