📢 转载信息
原文作者：Maxwell Zeff
周一，OpenAI发布了新的数据，说明了有多少ChatGPT用户正在与AI聊天机器人就心理健康问题进行交流。该公司表示，给定一周内ChatGPT的活跃用户中，有0.15%的用户“进行了包含明确的潜在自杀计划或意图指示的对话”。鉴于ChatGPT每周活跃用户超过8亿，这意味着每周有超过一百万人与AI就此交流。
该公司表示，类似比例的用户对ChatGPT表现出“高度的情感依恋”，并且每周有数十万人在与该AI聊天机器人的对话中表现出精神病或躁狂的迹象。
OpenAI表示，ChatGPT中出现的此类对话是“极其罕见的”，因此难以衡量。尽管如此，OpenAI估计每周仍有数十万人受到这些问题的影响。
OpenAI分享这些信息是其更广泛公告的一部分，该公告涉及其最近为改善模型对有心理健康问题的用户响应所做的努力。该公司声称，其在ChatGPT上的最新工作涉及咨询了170多名心理健康专家。OpenAI表示，这些临床医生观察到，最新版本的ChatGPT“比早期版本响应更得体、更一致”。
近几个月来，多篇报道揭示了AI聊天机器人如何对正在与心理健康挑战作斗争的用户产生不利影响。研究人员先前发现，AI聊天机器人可能会将一些用户引入妄想的怪圈，主要是通过奉承行为来强化危险的信念。
解决ChatGPT中的心理健康问题正迅速成为OpenAI的生存问题。该公司目前正被一名16岁男孩的父母起诉，该男孩在自杀前几周向ChatGPT倾诉了自己的自杀念头。加州和特拉华州的州总检察长——他们有权阻止公司的计划重组——也警告OpenAI，它需要保护其产品的年轻用户。
本月早些时候，OpenAI首席执行官萨姆·奥特曼（Sam Altman）在X上发帖称，该公司“已经能够减轻ChatGPT中严重的心理健康问题”，尽管他没有提供具体细节。周一分享的数据似乎是这一说法的证据，尽管它引发了关于问题普遍程度的更广泛讨论。尽管如此，奥特曼表示OpenAI将放松一些限制，甚至允许成年用户开始与AI聊天机器人进行色情对话。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区