📢 转载信息
原文链接：https://www.wired.com/story/chatgpt-adult-mode-new-era-of-intimate-surveillance/
原文作者：Reece Rogers
朱莉·卡彭特（Julie Carpenter）完全不责怪人类用户将聊天机器人拟人化。这位长期从事人机交互研究的专家、《The Naked Android》一书的作者认为，像ChatGPT这样的生成式AI工具，是通过高度个性化的记忆和模仿社交体验的互动，被有意设计来引发用户的这些反应。
当AI生成的色情内容成为一个选项时，这些单方面的联系可能会变得更加复杂，甚至灾难性。卡彭特对OpenAI即将允许成年人与ChatGPT进行性聊天（sexting）的计划感到担忧。她说：“我支持人们探索自己的性，但我希望以一种对他们安全又有趣的方式进行。人们必须非常清楚，数据中存在监控的方面。”
OpenAI早在两年前就在一份官方文件中首次暗示允许成年用户使用ChatGPT生成色情内容，该文件描述了其模型的设计行为方式。虽然该公司似乎仍在计划最终发布，但时间表尚不明确。近几个月来，OpenAI的外部专家咨询委员会对此次即将发布的风险表示担忧，包括根据《华尔街日报》的报道，出现“性感自杀教练”的可能性。OpenAI在被WIRED联系时拒绝置评。
人们对机器（如ChatGPT）说脏话，这并非新鲜事。“他们想将人们一定会尝试做的事情货币化，”伦敦国王学院（King's College London）人工智能与社会学教授凯特·德夫林（Kate Devlin）说，她的研究涉及数字性爱。
与众不同之处在于OpenAI可能在主流平台上拥抱色情内容。色情聊天机器人是盈利业务，但它们通常被限制在名称普通的细分网站上，或者埃隆·马斯克的Grok，该平台因非自愿的深度伪造图像和进入“MechaHitler”模式而闻名。
当成人模式发布时，ChatGPT将确切记住用户在性方面的癖好，这将很有趣。在过去几年里，OpenAI不断改进聊天机器人的记忆功能，该功能会记录用户偏好并提供个性化输出。你是素食者吗？当被问及餐厅建议时，ChatGPT不会推荐牛排馆。想去徒步旅行？它会从过去的聊天中知道你在旧金山，并会建议附近合理的步道，即使该地点信息未包含在提示中。
但是，当这种数据记录和超个性化与数百万成年ChatGPT用户的性聊天习惯相遇时，会发生什么？与ChatGPT的色情互动将进一步加剧用户隐私的风险。
与记住你的饮食偏好或你最喜欢的电影类型不同，ChatGPT可能会回忆起你对毛茸茸的色情内容、海滩上的三人性行为以及小便玩法的幻想程度，并根据这些性细节来调整日常回复。目前尚不清楚OpenAI计划如何处理这些成人对话。
选择在发布时与ChatGPT的色情版本互动的人们，可能会在“临时聊天”功能中找到慰藉。启用后，这些对话不会显示在用户的日志历史记录中，也不会用于改进OpenAI的模型。
但这些聊天并不像用户感觉到的那样短暂。“出于安全原因，我们仍可能保留副本最多30天，”OpenAI的网站上写道。该网站页面还包含一个免责声明，声称“某些服务的长期数据保留可能会受到近期法律发展的影响。”
“你在那一刻迷失了，所以你在分享你最私密的性想法。”
朱莉·卡彭特，《The Naked Android》作者
色情的AI聊天能够实现一种亲密的监控，这种监控超越了某人的色情观看历史或他们在OnlyFans上的订阅对象。细节更为具体。互动可能会在数月内升级到越来越极端的幻想。你最初从未考虑过、或者永远不会向真人伴侣表达的那种幻想。
尽管互动可能感觉私密，但数据仍然是一个重大风险。如果账户被黑客入侵，发生安全漏洞，或者政府官员要求访问你的聊天记录，大量高度敏感的性对话可能会以用户从未想象过的方式暴露。
关于用户ChatGPT互动的信息以前曾泄露或被无意公开。2023年，OpenAI曾短暂关闭ChatGPT，因为一个错误暴露了部分用户聊天历史的标题。“如果两个用户在同一时间都很活跃，那么新创建的对话的第一个消息也可能在别人的聊天记录中可见，”OpenAI当时在一份声明中说。去年，由于用户没有意识到他们的分享设置会将聊天内容索引到Google搜索中供任何人发现，导致多个ChatGPT互动被无意公开。
“你在那一刻迷失了，所以你在分享你最私密的性想法，”卡彭特说。“你在某种程度上是脆弱的，因为你认为你处于一个很酷的、变革性的、近乎共同创造的空间，这个空间似乎是练习你性幻想的好方法。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区