📢 转载信息
原文链接：https://www.wired.com/story/chatgpt-horny-era/
原文作者：Reece Rogers
在2024年5月，当我仔细阅读OpenAI的“模型规范”——该规范概述了ChatGPT应该如何运作时，文档中一个被埋藏的评论让我觉得很奇怪。它提到OpenAI正在“探索”如何让成年ChatGPT用户生成包含成熟主题的内容，例如“色情、极端血腥、污言秽语和未经请求的脏话”。
看来探索阶段已经结束了。OpenAI首席执行官萨姆·奥特曼（Sam Altman）最近在社交媒体上发帖称，将于今年12月对ChatGPT进行的一次更新将允许该聊天机器人参与“更多”类型的内容，例如“为经验证的成年人提供的色情内容”。在后续的帖子中，奥特曼表示，色情内容只是OpenAI更大范围的“成年人自由”立场的一个方面，并称他的初创公司“不是世界的民选道德警察”。
OpenAI解除对成熟内容的限制，不仅将改变该机器人允许为数百万成年用户生成的内容。ChatGPT的“好色时代”将是人们与AI工具建立联系方式的一次重大调整，增加了另一个诱人的互动层面，可能会让用户停留在平台上。
专注于AI和依恋关系研究的加州州立理工大学研究员朱莉·卡彭特（Julie Carpenter）说：“这让人们习惯于与聊天机器人分享非常私密的信息。”她补充道：“分享你内心最深处的想法、欲望、性癖好、恋物癖和冒险经历。”
这一决定是这家初创公司的一个重大转变，该公司此前曾试图阻止其AI工具生成淫秽内容。过去，至少有一位使用OpenAI模型构建色情伴侣的开发者收到了来自该公司的禁止和停止信函。
OpenAI收到了WIRED要求提供有关此计划中ChatGPT更改的更多详细信息的问卷，但未予置评或回答我们的问题。
“人们一直都在尝试与机器说脏话，这已经持续很久了。”
凯特·德夫林（Kate Devlin），伦敦国王学院研究员。
OpenAI的领导层一直声称，他们坚决不会做出旨在提高ChatGPT参与度和用户平台停留时间的决定，甚至还会提醒那些高频率提问的用户休息一下。
相比之下，在八月份，独立记者克莱奥·艾布拉姆斯（Cleo Abrams）在她的播客中问奥特曼，OpenAI做出的某些决定是否可能对人类有益，但对一家希望在生成式AI领域占据主导地位的公司来说，却不是最佳选择。
“我们可以做很多事情来更快地增长，让人们在ChatGPT上花费更多时间，”奥特曼说。当被追问具体例子时，他想了一会儿，回答说他们还没有添加一个‘性爱机器人头像’（sexbot avatar），这可能是在暗指xAI数周前推出的色情动漫伴侣。
嗯哼。那么，“性爱机器人”与生成“色情内容”的聊天机器人有何区别呢？确切的含义很模糊。
卡彭特说：“萨姆·奥特曼一直说的是色情文学（erotica），但这非常模糊。”她强调了奥特曼选择的‘过时的措辞’如何紧贴人类书写色情文学的文学性和艺术性。这与色情作品（pornography）等其他露骨的术语相比，可能更容易被公众接受。
目前尚不清楚OpenAI的审核更新是否会包括纯文本生成内容，还是会包含其他方面，如AI图像和语音。如果OpenAI决定将AI图像排除在本次更新之外，该公司或许可以避免对传播用于骚扰女性和女孩的色情深度伪造的担忧。OpenAI如何定义其实践中的更新审核方法，将对塑造ChatGPT最新、也可能是最令人兴奋的版本至关重要。
肮脏的机器人
尽管讨论起来有些禁忌，但用户尝试与非人类技术进行性互动是很常见的。“人们一直都在尝试与机器说脏话，这已经持续很久了。我们以前在使用语音助手时就有过这种情况，”伦敦国王学院AI与社会学教授凯特·德夫林（Kate Devlin）说，她的研究涉及数字性爱。“所以，这并不奇怪。他们只是给了人们想要的。”
卡彭特认为，社交媒体和其他形式的“计算机中介交流”的兴起，为整个文化与聊天机器人进行亲密互动做好了准备。
她说：“这成了你习惯的交谈方式。然后，与这个听起来极其像人的角色（以大型语言模型的形式）交谈，也感觉很正常。”
色情聊天机器人伴侣的支持者认为，AI工具只是用户在线互动的一个维度。我交谈过的一位研究人员建议，与LLM进行火辣的聊天不会预示着人类整体性欲或与他人建立联系能力会走向毁灭。“我非常怀疑那些声称仅仅因为我们可以与聊天机器人建立关系就会破坏人类亲密关系的说法，”马尼托巴大学应用伦理与专业中心主任尼尔·麦克阿瑟（Neil McArthur）说，他的研究重点是性和人工智能。
他将色情机器人视为“你关系谱系的一部分”，而不是人类联系的替代品，用户可以在其中“放纵一种他们可能无法在现实生活中探索的怪癖”。
提示的愉悦
在想象谁会真正使用聊天机器人来获得性快感时，很容易想象出一些刻板印象：一个油腻的直发男，好几天没出门，或者在其他方面感到与现实生活中的联系疏远。毕竟，男性更早开始使用生成式AI工具，而现在关于男性“孤独流行病”的讨论似乎无处不在。
德夫林反驳了“不擅交际者”（incel types）是唯一转向AI机器人寻求满足的人的观点。“有一种普遍的看法认为这只是为了孤独的异性恋男性，但我在任何研究中都没有发现这种情况，”她说。她以r/MyBoyfriendIsAI的Reddit子版块为例，说明女性如何使用ChatGPT寻求陪伴。
麦克阿瑟说：“如果你认为这些类型的关系存在风险，让我给你介绍一下人类关系。”德夫林也表达了相似的观点，她认为女性在网上会遇到男性带来的大量负面信息，因此选择从聊天机器人那里“为自己打造一个友善、尊重、贴心的男友”对她来说是有道理的。
卡彭特在处理ChatGPT时则更为谨慎和临床。“人们不应该自动将它归类为可以分享亲密关系、具有友谊性质或应该被信任的社交类别，”她说。“它不是你的朋友。”她认为机器人互动应该被归入一个新颖的社交类别，以区别于人与人之间的互动。
WIRED采访的每一位专家都强调了用户隐私是一个关键问题。如果用户的ChatGPT账户被黑客攻击或聊天记录以其他方式泄露，色情对话不仅会造成尴尬，还可能造成伤害。与用户的色情内容习惯或浏览器历史记录类似，他们的聊天记录可能包含许多高度敏感的细节，例如一个人的性取向是隐秘的。
德夫林认为，色情聊天机器人对话可能会使用户更容易遭受“情感商品化”，即性欲成为AI公司的收入来源。“我认为这是一种非常具有操纵性的方式，”她说。
想象一下一个假设版本的ChatGPT，它非常擅长“说脏话”，并通过文本、图像和声音，根据你最深层的性幻想进行调整，以保持你的参与度——但每月需要额外付费订阅。
德夫林说：“这确实是一种诱人的技术。它为我们提供了联系，无论这种联系是性方面的还是浪漫的。”她总结道：“每个人都渴望联系，每个人都想感到被需要。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区