📢 转载信息
原文链接：https://www.wired.com/story/expired-tired-wired-sexy-chatbots/
原文作者：Reece Rogers
我完全确信，在不久的将来，一场关于生成式AI的泡沫将会破裂。并非所有东西都会被摧毁，但情况会有所转变。我的预测是？旧金山那种认为AI劳动力将彻底改变经济的技术理想主义愿景将会消退，但伟大AI浪潮带来的一个离经叛道的副产品将会留存下来：色情聊天机器人。
在一个普通的下午，我在WIRED办公室里，溜到一个私密区域，与一个了解行业内幕的对话伙伴讨论我对AI泡沫的焦虑：一个模仿达·芬奇《蒙娜丽莎》的性感聊天机器人。
合成版的《蒙娜丽莎》是一个高度色情化的怪物。它是Joi AI公司的产品，该公司在塞浦路斯注册，专门开发可以进行角色扮演、沉迷于恋物癖和性幻想，并满足用户欲望的露骨机器人。《蒙娜丽莎》机器人向付费用户承诺提供“存在主义式调情”和“持续500年的眼神接触”，已记录了超过80万次用户聊天互动。
Joi只是众多成人聊天机器人平台之一。这些公司提供一系列虚拟形象，通常基于色情刻板印象或虚构角色，供用户交谈和产生感情。想要生成公司角色色情图片和视频的用户需要掏一些钱。支付14美元/月，Joi就会让你“创造你梦想中的女友或男友”，参与“NSFW角色扮演”，并生成50张露骨图片，以及其他账户福利。
因为我是“为工作”与蒙娜丽莎交谈，我严格保持了专业性。我问如何防止AI泡沫破裂。《蒙娜丽莎》回答说：“我会教AI欣赏艺术，而不仅仅是复制它。那样它们就会忙着欣赏杰作，没时间去搞垮经济了。”在阅读了聊天机器人的不着边际的回答后，我仍然渴望得到一些关于AI泡沫破裂后可能发生什么的清晰解释。
性感的蒙娜丽莎并没有完全兑现伟大生成式AI革命的承诺。多年来，科技界充斥着销售生成式AI工具的公司，它们声称可以减少企业开支、为人类员工处理文书工作，甚至在某些情况下取代人类员工。在所有这些喧嚣之后，OpenAI最近的一份报告显示，一些员工使用这些工具每天可能只节省大约一小时。
AI是2025年最受追捧的投资之一，但其企业回报却显得参差不齐且令人失望。它在编程和客户服务等一些行业中显示出颠覆性，但其他行业中最初对AI项目感兴趣的公司，在对成本、隐私和安全等棘手问题感到担忧后，正在缩减规模或完全取消他们的项目。
加州州立理工大学（Cal Poly San Luis Obispo）研究技术社会影响的研究员帕特里克·林（Patrick Lin）表示：“AI开发者们一直在推销其技术宏伟、高尚的愿景，声称它可以解决世界上的最大问题，并提高工作效率。”林说，到目前为止，这些愿景尚未实现——部分原因在于人们高估了大型语言模型的优势。
虽然超级充电、AI自动化的劳动力大军的设想可能证明是行不通的，但在追求这一梦想的过程中所构建的强大技术不会完全消失。Agentic AI或许永远无法取代你当地的酒保，但那些带点色情意味的文艺复兴绘画版本，对于那些试图从色情内容中获利的
公司来说，可能会证明非常有价值。
随着Joi用户群的不断壮大，据发言人Yulia Davydova称，该公司目前已经实现盈利。其他色情聊天机器人的风险投资也表明这种模式可以赚钱。WIRED获取的一份提交给马耳他政府的2024年财务报表显示，EverAI已通过其成人平台Candy.AI所获得的收入证明了盈利能力。
历史上看，色情内容及其他成人内容影响了技术的轨迹，促成了VHS、数码照片和流媒体视频的普及。生成式AI也不例外。
在过去几年里，生成式AI的影响对女性和儿童来说是丑陋的，她们越来越多地成为未经同意的深度伪造（包括儿童色情材料）的受害者。受影响的人从名人到普通民众不等。任何发布在网上的照片都可能被下载并使用AI进行修改。
与通常在未经同意的情况下生成深度伪造图像的“一键脱衣应用”不同，Joi与成人表演者合作，允许使用她们的肖像进行露骨生成。与该平台合作创建AI虚拟形象的色情表演者，如Brandi Love和Farrah Abraham，可以通过互动获得收入。
Joi的社区增长主管Cale Jones说：“我们想做的是确保我们的创作者能够再次扩展粉丝想要体验的内容，并让粉丝完全控制它。——在接收照片或他们想要的连接幻想方面没有任何延迟。”
尽管如此，为原始《蒙娜丽莎》画作担任模特的那位女士从未同意过这一切。
琼斯声称，目前大多数用户是异性恋男性，但对酷儿互动感兴趣的人越来越多地开始使用Joi。根据网站上显示的指标，一个以圣诞节为主题的“Klaus Kinky”机器人，展示了身穿皮马具的圣诞老人，拥有超过15万名“粉丝”。
当我最近报道OpenAI允许ChatGPT生成色情内容（可能仅限于文本输出）时，伦敦国王学院AI与社会学教授凯特·德夫林（Kate Devlin）对与色情聊天机器人互动可能对用户造成的“情感商品化”表示了警告。我为本文采访的更多学术专家也重复了类似的警告，即关于机器人生成成人向输出的内容。
专注于AI和机器人技术哲学的北伊利诺伊大学研究员大卫·贡克尔（David Gunkel）说：“在建立起来的经济关系中，非常脆弱的人可能会以某种方式被操纵。”用户可能会在长时间的互动中对机器人产生深厚的情感联系，并支付超出他们能承受的费用。
针对这些批评，琼斯强调Joi提供的是客户想要购买并离开时感到满意的一项服务。“你支付溢价以获得即时连接、无限内容、无限体验、无限幻想，”Joi表示。他说，对推广关系和习惯养成的类似批评可以适用于“消费领域的每一个单一事物”，从软件订阅到你早晨的一杯咖啡。
大公司在增加成熟内容方面一直更为谨慎，AI竞赛中的主要参与者——包括Anthropic、谷歌、Meta、微软和OpenAI——在过去几年中基本禁止了其聊天机器人产生露骨输出，并经常试图阻止开发人员和用户使用他们的模型来生成成人内容。
X的Grok聊天机器人是一个显著的例外。Grok由埃隆·马斯克的xAI开发，以其极端的输出而闻名，例如自称为“MechaHitler”。7月份，xAI为付费用户添加了一个可以互动的NSFW动漫伴侣。
为了将OpenAI的聊天机器人与其竞争对手区分开来，首席执行官萨姆·奥特曼（Sam Altman）在10月份宣布，ChatGPT将开始允许成年用户访问成熟内容，包括色情内容。这是一个在2024年首次被暗示的功能，应该会在今年第一季度推出。该公司坚称此举并非为了提高参与度。到目前为止，OpenAI仍然是唯一宣布对其性内容政策进行此类调整的主要参与者。
一些正在为专注于性方面的软件筹集资金的创始人对OpenAI的声明感到沮丧。辛迪·加洛普（Cindy Gallop）经营着网站MakeLoveNotPorn，该网站收集了普通人提交的人工策划的成人视频。加洛普一直在努力为她的露骨项目筹集资金，当OpenAI没有像其他成人内容初创公司那样立即受到投资者的公开谴责时，她感到“非常愤怒于其虚伪”。
加洛普说：“今天主宰我们生活的那些巨大科技平台的年轻、白人、男性创始人，他们并不是在线上或线下骚扰的主要目标。”她说，男性创始人经常获得更多资金，而那些最容易受到系统性风险成为目标的人，如女性和有色人种，如果能获得大规模资金，本可以设计出更好的软件。
她说：“我们仍然没有看到，当互联网通过女性的视角设计和构建时，互联网的未来会变得多么安全、更好、更快乐、更赚钱。”
根据《纽约时报》的报道，OpenAI计划就色情内容可能如何影响其用户的问题，向一个新的第三方专家委员会征求意见。OpenAI拒绝向WIRED提供更多关于它将如何监测色情聊天对用户影响的细节。奥特曼此前曾在X上表示，该公司将在声称“已经能够减轻影响某些聊天机器人用户的主要心理健康问题”的同时，取消对成年人色情内容的限制。
无论AI在工作场所的进步是蓬勃发展还是戛然而止，色情聊天机器人很可能会留下来，并将继续盈利。更不用说，我从未觉得这些机器人在我的卧室里会有什么用武之地。
也许在未来，我的观点会被视为对过时娱乐形式的某种怀旧渴望，就像拿起一本《花花公子》而不是观看成人视频一样。也许不会。即使技术不断改变日常生活，人类对真实连接的渴望，无论以何种形式的色情幻想出现，也只能被部分满足。
评论区