📢 转载信息
原文链接：https://www.wired.com/story/robloxs-ai-powered-age-verification-is-a-complete-mess/
原文作者：David Gilbert
在推出仅几天后，Roblox备受吹捧的、基于AI的年龄验证系统就成了一场彻底的混乱。
Roblox的面部扫描系统在上周于美国和其他国家/地区推出，此前该系统已于12月在少数地区初步上线。该系统旨在估算用户年龄，然后才能访问平台上的聊天功能。Roblox声称，实施该系统的目的是为了让用户能够安全地与年龄相仿的用户进行聊天。
但玩家们已经群起反抗，因为他们再也不能和朋友聊天了；开发者们正要求 Roblox 撤销此次更新；更关键的是，专家指出，该AI不仅错误地将年轻玩家识别为成人，反之亦然，而且它对解决其旨在解决的问题——即涌入平台的掠食者利用该平台来诱骗儿童——几乎没有帮助。
事实上，WIRED 发现了多起在 eBay 上以低至 4 美元的价格宣传针对低至 9 岁未成年人已通过年龄验证账户的案例。
在 WIRED 向 eBay 标记这些列表后，eBay 发言人 Maddy Martinez 表示，该公司正在根据网站政策删除这些内容。
Roblox 的首席安全官 Matt Kaufman 在一封电子邮件中告诉 WIRED，对于拥有超过 1.5 亿日活用户的平台来说，如此规模的变革需要时间。
他表示：“在构建前所未有的事物时，你不能只是‘一键切换’。”“期望系统一夜之间完美无缺，就忽视了这项工作的规模。”
Kaufman 称，公司对用户的接受度感到满意，并补充说“数千万用户”已经验证了他们的年龄，他声称这证明了“我们社区的绝大多数人都重视一个更安全、更适合年龄的环境。”
该公司还在周五的更新中回应了一些批评，写道：“我们知道有些情况下父母代孩子进行年龄验证，导致孩子被识别为 21 岁以上。我们正在努力解决这个问题，并将很快在这里分享更多信息。”
Roblox 在去年 7 月宣布了年龄验证要求，这是旨在使平台更安全的一系列新功能的一部分。近几个月来，该公司面临着巨大的压力，此前有多起诉讼指控该公司未能保护其最年幼的用户，并协助掠食者诱骗儿童。
路易斯安那州、得克萨斯州和肯塔基州的总检察长去年也对该公司提起了诉讼，提出类似的指控，而佛罗里达州的司法部长则发出了刑事传票，以评估 Roblox 是否“协助掠食者接触和伤害儿童”。
Roblox 声称，要求人们在允许他们与他人聊天之前验证其年龄，将阻止成年人与他们不认识的儿童自由互动。
虽然该过程是可选的，但拒绝执行该过程意味着该用户将无法再访问平台的聊天功能，这也是大多数人使用 Roblox 的关键原因之一。
为了验证年龄，用户需要使用设备的摄像头拍摄一个简短的视频，该视频由一家名为 Persona 的公司处理，该公司会估算其年龄。或者，如果用户年满 13 岁，他们可以上传政府签发的带照片的身份证件。
Roblox 表示，所有个人信息在处理后“会立即删除”。然而，许多在线用户表示，由于隐私方面的担忧，他们不愿意进行年龄验证。
经过年龄验证的用户只能与一小部分年龄相仿的其他玩家聊天。例如，被验证为未满 9 岁的玩家只能与年龄在 13 岁以下的玩家聊天。被判定为 16 岁的玩家可以与 13 至 20 岁的玩家聊天。
该公司最初于 11 月在澳大利亚、新西兰和荷兰推出了基于 AI 的年龄验证系统，但本周 Roblox透露，只有一半的玩家使用该系统验证了年龄。
自该更新在全球范围内推出以来的几天里，玩家和开发者涌向论坛、Reddit以及 X 和 TikTok 等社交媒体平台，发布了大量关于该系统的抱怨。
WIRED 审查了数百个来自玩家和父母的帖子，他们声称该系统错误地识别了玩家的年龄。
一位自称 23 岁的 Roblox 用户被错误地识别为 16 至 17 岁，他在 X 上写道：“我不想和该死的孩子们聊天。”另一人声称自己 18 岁，但 Roblox “仍然认为我 13 到 15 岁。”
作为回应，另一位 X 用户写道：“我留着浓密的胡须，但它把我（小号）的年龄段定在了 13-16 岁。”
其他人则表示，年龄验证系统将年幼的孩子归入了成人类别，其中一位 X 用户声称他们 10 岁的兄弟姐妹被归入了 18 岁以上类别。
玩家还分享了视频，展示了人们如何通过使用头像，或者像在其中一个案例中，使用已故涅槃乐队主唱科特·柯本（Kurt Cobain）的照片来欺骗该系统，从而在不透露真实面孔的情况下完成验证。在一个被广泛分享的片段中，一个脸上用黑色记号笔画上了皱纹和胡茬的小男孩，被该系统评定为 21 岁以上。
独立极端主义研究员 Ry Terran 密切关注利用 Roblox 瞄准年幼儿童的网络，他说：“我看到网上有各种关于欺骗年龄验证系统的建议，但我认为最广泛的危险是大量账户被错误地归入了错误的年龄类别，以及父母和游戏内管理员需要应对的新挑战，即如何发现聊天中是否存在儿童被剥削的情况。”
Roblox 表示，如果他们怀疑出现错误，将随机重新检查用户的年龄。
该公司在其开发者论坛上写道：“如果怀疑存在欺诈，Roblox 可能会定期重新检查用户的年龄，或者在我们看到潜在年龄失真迹象时采取适当行动。”“作为我们对安全持续投资的一部分，我们还将开发和改进对这种行为的检测。”
该公司没有解释这种重新检查将如何进行，或者用户是否会收到通知。
Roblox 的官方开发者论坛已经被关于这些更新的数千条负面评论所淹没，绝大多数人都要求撤销此次更新，并要求 Roblox 倾听用户的声音。
许多开发者还分享了自更新以来他们游戏中的聊天活动急剧下降的情况，其中一位开发者展示了使用文本聊天功能的玩家数量从平均 85% 下降到 36%。
一些用户将更新后在平台上玩游戏的体验描述为“死气沉沉”和“完全是鬼城”。一位 TikTok 用户说：“感觉就是死了。”其他用户则在 Roblox 中抗议这些变化。
一位开发者在回应 Roblox 对推出此更新的批评时，在 Roblox 的回复下写道：“我们为什么要继续推动这项改变？没有人想要这个该死的改变，它只会伤害你们的核心用户群，而不是提供任何安全性。Roblox 本质上是一个社交平台，这些近期的变化将我们推向一个没有隐私和审查的未来，而不是沟通和……玩有趣的游戏。”
更新：2026年1月13日，美国东部时间下午2:10：WIRED 更新了文章，加入了 Roblox 在发布后对该事件的评论。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区