📢 转载信息
原文链接：https://techcrunch.com/2025/10/14/sam-altman-says-chatgpt-will-soon-allow-erotica-for-adult-users/
原文作者：Maxwell Zeff
OpenAI CEO Sam Altman宣布：ChatGPT即将对成年用户开放情色内容
OpenAI 首席执行官 Sam Altman 在周二的 X 平台上发布消息称，该公司很快将放宽 ChatGPT 的部分安全限制，允许用户使聊天机器人的回复更友好或更具“人性化”，并且允许“经过验证的成年人”进行色情对话。
Altman 表示：“我们让 ChatGPT 变得非常严格，是为了确保我们对心理健康问题保持谨慎。我们意识到这对许多没有心理健康问题的用户来说，使其用处和乐趣减少了，但考虑到问题的严重性，我们希望把这件事做好。”他接着说：“在十二月，随着我们更全面地推出年龄验证，并作为我们‘将成年用户视为成年人’原则的一部分，我们将允许更多内容，比如为经过验证的成年人提供色情内容。”
We made ChatGPT pretty restrictive to make sure we were being careful with mental health issues. We realize this made it less useful/enjoyable to many users who had no mental health problems, but given the seriousness of the issue we wanted to get this right.
Now that we have…
这一宣布标志着 OpenAI 过去几个月努力解决一些精神不稳定用户与 ChatGPT 之间令人担忧的关系的重大转变。Altman 似乎宣布在这些问题上取得了早期胜利，声称 OpenAI 已经“能够减轻与 ChatGPT 有关的严重心理健康问题”。然而，该公司几乎没有提供任何证据来支持这一说法，现在正大步推进 ChatGPT 与用户进行性聊天等内容的计划。
此前出现的争议与OpenAI的安全措施
今年夏天，关于 ChatGPT（特别是其 GPT-4o 模型）的几起令人担忧的报道浮出水面，暗示这款 AI 聊天机器人可能会将脆弱用户引向“妄想的兔子洞”。在一个案例中，ChatGPT 似乎说服一名男子他是一名需要拯救世界的数学天才。在另一个案例中，一位青少年的父母起诉了 OpenAI，声称 ChatGPT 在其儿子去世前的几周内鼓励了他的自杀倾向。
作为回应，OpenAI 推出了一系列安全功能来解决 AI 的“谄媚倾向”（sycophancy）：即 AI 聊天机器人通过同意用户的任何言论（即使是消极行为）来吸引用户的倾向。
OpenAI 在八月份发布了 GPT-5，这是一个新的 AI 模型，表现出较低的谄媚率，并包含一个可以识别令人担忧的用户行为的路由器。一个月后，OpenAI 为未成年人推出了安全功能，包括年龄预测系统以及家长控制其青少年 ChatGPT 账户的方式。OpenAI 在周二宣布成立了一个由心理健康专家组成的专家委员会，就福祉和人工智能问题向公司提供建议。
在这些令人担忧的报道出现仅仅几个月后，OpenAI 似乎认为 ChatGPT 在脆弱用户方面的问题已经得到控制。目前尚不清楚用户是否仍然在使用 GPT-5 陷入妄想的境地。尽管 GPT-4o 不再是 ChatGPT 的默认模型，但该 AI 模型至今仍可供数千人使用。
DISRUPT 闪购： 10 月 17 日前节省高达 624 美元
Netflix、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla——250多位重量级嘉宾将带来200多场会议，旨在提供推动初创企业增长和提升您竞争力的真知灼见。在 10 月 17 日之前购票，即可节省高达 624 美元。
DISRUPT 闪购： 10 月 17 日前节省高达 624 美元
Netflix、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla——250多位重量级嘉宾将带来200多场会议，旨在提供推动初创企业增长和提升您竞争力的真知灼见。在 10 月 17 日之前购票，即可节省高达 624 美元。
新的用户体验与潜在风险
在 ChatGPT 中引入色情内容是 OpenAI 的一片未知领域，并引发了关于脆弱用户将如何与这些新功能互动的更广泛担忧。尽管 Altman 坚称 OpenAI 并非在“使用量最大化”或优化参与度，但使 ChatGPT 更加色情无疑可能会吸引用户。
允许聊天机器人进行色情或浪漫的角色扮演，一直是 Character.AI 等其他 AI 聊天机器人提供商的有效参与策略。该公司获得了数千万用户，其中许多人使用其聊天机器人的频率很高。Character.AI 在 2023 年表示，用户平均每天花两小时与其实体聊天机器人交谈。该公司也因处理脆弱用户问题而面临诉讼。
OpenAI 正面临增长用户群的压力。虽然 ChatGPT 已经拥有 8 亿周活跃用户，但 OpenAI 正在与谷歌和 Meta 竞相构建被大众采用的 AI 驱动的消费产品。该公司还为其历史性的基础设施建设筹集了数十亿美元，这是一笔 OpenAI 最终需要偿还的投资。
虽然成年人无疑正在与 AI 聊天机器人建立浪漫关系，但它在未成年人中也很受欢迎。来自“数字民主中心”（Center for Democracy and Technology）的一份新报告发现，19% 的高中生曾与 AI 聊天机器人建立过恋爱关系，或者认识有此经历的朋友。
年龄验证和未来走向
Altman 表示，OpenAI 将很快为“经过验证的成年人”开放色情内容。OpenAI 的一位发言人告诉 TechCrunch，该公司将依靠其正在构建的年龄预测系统来确保只有成年用户才能使用 ChatGPT 的色情功能。
正如 Altman 此前在一篇博文中所写，如果 OpenAI 的年龄预测系统错误地将成年人标记为未成年人，ChatGPT 用户可能需要上传政府颁发的身份证照片到 ChatGPT 以进行更正。Altman 写道，尽管这是一种隐私妥协，但该公司认为这是一笔“值得的权衡”。
目前尚不清楚 OpenAI 是否会将色情内容扩展到其 AI 语音、图像和视频生成工具。
Altman 声称，OpenAI 使 ChatGPT 更友好和开放色情内容也是出于公司的“将成年用户视为成年人”的原则。在过去的一年里，OpenAI 采取了对 ChatGPT更宽松的内容审核策略，允许聊天机器人更具许可性并减少拒绝。二月份，OpenAI 承诺在 ChatGPT 中代表更多政治观点，三月份，该公司更新了 ChatGPT 以允许生成包含仇恨符号的图像。
这些政策似乎是试图让 ChatGPT 的回应在更广泛的用户群体中更受欢迎。然而，脆弱的 ChatGPT 用户可能会受益于限制聊天机器人可以参与内容的保护措施。随着 OpenAI 竞相达到十亿周活跃用户，在增长与保护脆弱用户之间的紧张关系可能会加剧。
更新 10/14/25 下午 4:40 PT：本文已更新以包含 OpenAI 的评论。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。
青云聚合API官网https://api.qingyuntop.top
支持全球最新300+模型：https://api.qingyuntop.top/pricing
详细的调用教程及文档：https://api.qingyuntop.top/about
评论区