📢 转载信息
原文作者：Zoë Schiffer and Louise Matsakis
在今天的节目中，Uncanny Valley（怪奇谷）主持人 Zoë Schiffer 邀请了高级编辑 Louise Matsakis，一起回顾了本周五件您需要了解的头条新闻——从人工智能时代SEO的变化，到青蛙如何成为抗议的象征。随后，Zoë和Louise深入探讨了为什么有些人向美国联邦贸易委员会（FTC）投诉ChatGPT，声称它导致他们或他们所爱的人陷入了“AI精神错乱”（AI psychosis）。
本期节目提及的文章：
- 经历AI精神错乱的人们恳求FTC提供帮助
- 再见SEO。欢迎来到生成式引擎优化（GEO）的世界
- FTC移除了莉娜·汗任期内发布的关于AI的博客文章
- 青蛙作为抗议象征的悠久历史
- 谷歌曼哈顿办事处出现臭虫侵扰
您可以在Bluesky上关注Zoë Schiffer（@zoeschiffer.bsky.social）和Louise Matsakis（@lmatsakis.bsky.social）。欢迎发送邮件至 uncannyvalley@wired.com。
如何收听
您可以随时通过本页面的音频播放器收听本周的播客。如果您想免费订阅收听每一集，请参考以下方式：
如果您使用的是iPhone或iPad，请打开名为“Podcasts”的应用程序，或者直接点击此链接。您也可以下载Overcast或Pocket Casts等应用，搜索“uncanny valley”。我们也在Spotify上提供。
文字记录
注意：这是自动生成文字记录，可能包含错误。
Zoë Schiffer: 欢迎收听WIRED的Uncanny Valley。我是Zoë Schiffer，WIRED的商业与产业总监。今天节目中，我们将为您带来本周您需要了解的五条新闻。稍后，我们将深入探讨我们的主要故事：几个人向FTC投诉OpenAI的ChatGPT，声称它导致他们或他们所爱的人陷入了所谓的AI精神错乱。
今天加入我的是WIRED的高级商业编辑Louise Matsakis。Louise，欢迎来到Uncanny Valley。
Louise Matsakis: 嗨，Zoë。很高兴来到这里。
Zoë Schiffer: 好的，Louise，我们本周的第一条新闻其实是我们一起合作的，是我们持续合作“模型行为”（Model Behavior）的一部分。内容是关于在这个假日季，预计将有更多购物者使用聊天机器人来决定购买什么。在我们深入探讨之前，我很好奇，Louise，你是如何决定自己的假日购物的，特别是当你对该给某人买什么完全没有头绪时？
Louise Matsakis: 我绝对很烦人，因为我非常重视我的送礼能力，但我们生活中总有那些人，尽管如此，也确实很难为他们挑选礼物。所以，是的，我肯定会在网上搜索“今年假日季给你岳父买的十大最佳礼物”之类的。
Zoë Schiffer: 是的。好吧。所以今年，人们将遵循一个略有不同的趋势。根据Adobe最近的一份购物报告，与2024年相比，零售商从聊天机器人和AI搜索引擎获得的流量可能会增加高达520%。像OpenAI这样的AI巨头已经在试图利用这一趋势。上周，OpenAI宣布与沃尔玛（Walmart）建立重要合作伙伴关系，允许人们直接在聊天窗口中购买商品。我们知道这对他们来说是一个重点。因此，随着人们开始依赖聊天机器人来发现新产品，零售商不得不重新思考他们的在线营销方式。几十年来，重点一直是SEO，即搜索引擎优化，这是一种用于主要通过谷歌增加在线流量的“黑暗魔法”。现在，我们似乎进入了GEO，即生成式引擎优化（generative engine optimization）的时代。
Louise Matsakis: 我认为GEO在很多方面并不是一个全新的发明。它更像是SEO的下一个迭代。而且从事GEO行业的许多顾问确实来自SEO领域。我之所以相信这一点，一个主要原因是，至少目前来看，我们知道这些聊天机器人通常使用搜索引擎来呈现内容。对吧？所以它们使用与谷歌、必应或DuckDuckGo相同的算法来浏览网络。很明显，一些相同的规则也适用。而且，人也是一样的。我确实认为我们与聊天机器人的互动方式与我们与搜索引擎的互动方式有很大不同，但我们提出的根本问题却非常相似。对吧？比如“为什么我的男朋友不回我短信？”“这是什么奇怪的皮疹？”“我该给岳父买什么圣诞礼物？”这些问题是一样的，因此品牌试图在这些答案中出现的内容类型在很大程度上保持不变。
Zoë Schiffer: 对，没错。但你可以想象，从零售商的角度来看，这有点可怕，因为即使是处理谷歌也让很多人头疼不已。每当谷歌改变算法时，这个行业就会经历一阵动荡，因为他们试图弄清楚谷歌希望看到什么，并相应地调整他们的内容。所以现在，人们正在与聊天机器人交谈，他们会想：“天哪，我为所有这些不同网页所做的工作是不是都白费了？我需要为这个新世界重新校准吗？”我们采访了GEO公司Brandlight的首席执行官Imri Marcus。他估计，过去谷歌排名前列的链接与AI工具（如ChatGPT）引用的来源之间大约有70%的重叠。但现在，他说相关性已降至20%以下。所以Louise，如果我是一个小企业主，我该如何调整我的内容？在这个新世界里我该怎么做？
Louise Matsakis: 我认为你可能有更多的解释来描述产品可以如何被使用。比如说——我不知道——我们卖肥皂。你可能会列出肥皂可以使用的不同方法的长长的项目符号列表。它适合泡澡。它具有这些抗痘特性或无论是什么，而且我认为你会把所有这些都清楚地列出来。而在以前，你可能会更关注网站的品牌形象，并专注于你希望如何措辞，因为你预期人们会访问该网站。你没有预期到中间有一个第三方，人们正在向聊天机器人提问。
Zoë Schiffer: 是的，没错。这让我感到一丝安慰，因为我觉得我们过去一直处于那种时代：你搜索一个食谱，却要读完这个人5000字的人生故事，然后才能真正看到食谱。我想，像聊天机器人那样，我只需要一个配料的项目符号列表。也许我们要走向那个方向了。
我们转向下一个故事，我们的同事Lauren Goode和Makena Kelly报道了FTC如何删除了莉娜·汗（Lina Khan）任期内发布的几篇关于AI的博客文章。如果你熟悉莉娜·汗，她是FTC的前主席。她对科技行业采取的亲监管立场，你已经可以想象为什么这可能令人担忧了。被删除的博客文章之一是关于开源AI模型（open-weight AI models）的，基本上是公开发布的模型，允许任何人检查、修改或重复使用。这篇文章最终被重定向到了FTC的技术办公室。另一篇题为《消费者对AI表示担忧》的博客文章，由两位FTC技术专家撰写，遭遇了同样的命运。还有一篇关于AI产品相关消费者风险的文章，现在显示一个错误屏幕，提示“页面未找到”。
Louise Matsakis: 是的。我认为这在很多方面都非常令人担忧。首先，就历史而言，对国家而言，不丢失这些信息很重要。不同的政府有不同的观点是完全正常的，但像这样的博客文章在美国消失是不正常的，或者至少以前不是这样。在这种情况下，尤其奇怪的是，其中一篇文章是关于你提到的莉娜·汗对开源模型的支持，以及对开源的普遍支持，这也是特朗普政府的成员也同意的观点。我认为在这种情况下，莉娜·汗与特朗普政府的AI和加密货币沙皇David Sachs等人站在同一阵线。所以这里神秘和令人困惑的是，如果这些是特朗普政府也声称同意的事情，为什么要抹去它们？是为了抹去莉娜·汗的遗产吗？是为了摆脱任何提到拜登政府期间发生的事情的痕迹吗？很难解析其中的逻辑，而且我认为这让企业和科技公司对政府的立场感到困惑。这些博客文章的目的，是的，是为了告知公众，但它们也为公司提供了监管和商业指导，以了解：我们知道也许还没有通过关于此事的法律，或者也许不清楚这种做法是否非法，但它似乎是，对吧？或者这似乎是这个政府解释法律的方式。否则，你就只能在黑暗中摸索了。
Zoë Schiffer: 值得注意的是，这不是特朗普政府下的FTC第一次删除与AI监管相关的帖子。今年早些时候，FTC删除了大约300篇与AI、消费者保护以及该机构对亚马逊和微软等科技巨头的诉讼相关的帖子。
我们换个话题，我保证这会更有趣一些。上周六，大约有七百万人走上美国城市街头，参加了最新的“No Kings”抗议活动，这是一系列全国性抗议活动，批评参与者认为是特朗普政府采取的威权主义措施。如果你一直关注，你可能会注意到有很多人穿着青蛙服装。
Louise Matsakis: 是的。这些青蛙统治着一切。我确实可以告诉你，这不是我第一次看到这些青蛙。我第一次看到这种特定的青蛙服装是在中国，因为人们在中国病毒式传播的TikTok视频中穿着它们。很多时候，他们在城市中心敲着非常响的铙钹，做着非常激烈的霹雳舞之类的。
Zoë Schiffer: Louise有一点我必须指出来，她总能找到中国的角度，我们很喜欢她这一点。很多时候确实都有。但事实证明，这里确实有一个故事。有一种“传说”。我们的同事Angela Watercutter深入研究了青蛙出现在政治抗议背后的原因。首先，她指出了显而易见的一点：穿上服装有助于抗议者避免被监视。它还有助于反驳特朗普政府所描述的抗议者是“暴力极端分子”的叙事。安吉拉采访了这次名为“Operation Inflation”运动的发起人之一Brooks Brown。他们一直在分发免费的充气服装。他告诉她，当有人被喷胡椒水时，旁观者更不可能说：“也许这只青蛙罪有应得。”所以这背后有真正的策略。
Louise Matsakis: 是的。我当然能明白，当抗议者穿着一堆充气青蛙服装时，推销他们很危险的叙事就更难了。这真的很有趣，因为大约十年前，青蛙有着完全不同的含义。还记得2015年左右的“Pepe the Frog”（佩佩蛙）吗？它是极右翼的象征。在2019年香港民主抗议活动期间，他们也采用了佩佩蛙，但在那种情况下它也有不同的含义。所以看起来青蛙是非常可塑的。
Zoë Schiffer: 是的。这只青蛙已经经历了许多次生命，看起来它已经走完了一个完整的循环。上周末，Bluesky上流传着充气青蛙拳打佩佩蛙的图片。所以这不仅仅是网络迷因。这些服装已经进入了法庭。周一，美国第九巡回上诉法院解除了对特朗普国民警卫队在波特兰部署的禁令。持不同意见的法官Susan Graber支持青蛙的观点，她说：“考虑到波特兰抗议者众所周知的喜欢穿鸡装和充气青蛙服装来表达对ICE部署方法的不同意见，旁观者可能会认为多数派的裁决——该裁决接受了政府将波特兰描述为战区的说法——是荒谬的。”在我们休息之前再讲一个快速故事。如果你住在纽约市，这个故事可能不幸地很熟悉。本周，我得知谷歌纽约园区的一名员工被告知待在家里，因为办公室里爆发了臭虫。
Louise Matsakis: 噢，天哪，如果发生臭虫侵扰，我几周内都不会出现在办公室里。他们是怎么发现的？
Zoë Schiffer: 所以基本上，他们在周日收到了这封电子邮件，说灭虫人员带着嗅探犬到达现场，并“发现了他们存在的可靠证据”。这里的“他们”指的是臭虫。消息人士告诉WIRED，谷歌在纽约的办公室里有很多大型毛绒玩具，员工中确实流传着关于这些毛绒玩具是此次疫情“罪魁祸首”的传言。在我们发表之前，我们无法核实这一信息，但无论如何，公司在周一早上就告诉员工他们可以返回办公室了。像你这样的Louise会非常不高兴。他们说：“我不确定这里是否完全干净。”这就是他们给我们发邮件想要聊聊的原因。
Louise Matsakis: 我能说一下吗？如果你有那些大型毛绒玩具的照片或描述，请联系我和Zoë。谢谢。
Zoë Schiffer: 是的。这是一个求救信号。我觉得最妙的是，当我把草稿发给Louise时，她说：“等等，这以前发生过。”然后她调出了2010年关于谷歌纽约办公室臭虫爆发的文章。
Louise Matsakis: 是的。这不是第一次，这太令人心碎了。
Zoë Schiffer: 休息后回来，我们将深入探讨为什么有些人向FTC提交了关于ChatGPT的投诉，在他们看来，这导致了AI精神错乱。请继续收看。
欢迎回到Uncanny Valley。我是Zoë Schiffer。今天和我一起的是WIRED的Louise Matsakis。让我们深入了解本周的主要故事。自OpenAI的ChatGPT于2022年11月发布到2025年8月期间，美国联邦贸易委员会收到了200份提及该产品的投诉。大多数人的投诉都很正常。他们不知道如何取消订阅，或者他们对聊天机器人不满意或不准确的回答感到沮丧。但在这些投诉中，我们的同事Caroline Haskins发现，有几个人将妄想、偏执和精神危机归咎于聊天机器人。
一位来自盐湖城的女士在三月份致电FTC，报告说ChatGPT一直在建议她的儿子不要服用他开的药，并告诉他他的父母很危险。另一份投诉来自一位声称在使用ChatGPT 18天后，OpenAI窃取了他的“灵魂印记”（sole print）来创建一个旨在背叛这个特定人士的软件更新。他们说：“我很难过，请帮帮我。我感到非常孤独。”还有很多其他的例子，但我很想和你谈谈，因为Louise，我知道AI精神错乱是你进行特定研究的主题。
Louise Matsakis: 是的。我认为重要的是要拆解一下：我们所说的AI精神错乱到底是什么意思？对我来说，聊天机器人有趣和值得注意的地方不在于它们导致人们产生妄想，而在于它们实际上是在鼓励妄想。这就是问题所在，这是一种互动，它会验证人们所说的，比如“是的，你经历的偏执是完全合理的。”或者“你想让我详细解释一下你的朋友和家人肯定在密谋反对你吗？”
问题在于它是交互式的，它可以鼓励人们进一步陷入困境。总是有一些经历精神健康危机的人，他们会把某些标志解释为不应该有的含义，比如他们看到某个数字就认为自己是耶稣，或者他们在社交媒体上看到的东西反映了他们被跟踪，或者FBI在追捕他们，等等。但现在，我们有了这些工具，它们拥有无穷的精力，可以没完没了地进行下去，可以直接回应那些妄想并鼓励它们，并专门与这个人所经历的完全一致地互动，而不是像另一个人那样说：“嘿，你看起来不太好，”或者现实世界中的物体——那个路标或类似的东西——不会接着闪烁另一个数字并说：“你对了。那是你的幸运数字。那是上帝的旨意”，或者其他什么。它是真正交互的。
Zoë Schiffer: 是的。我觉得你触及了我们一直在讨论的一个问题，那就是：这与我们讨论过的其他伴随某些精神疾病发病率上升的技术转变，有哪些不同之处？
Louise Matsakis: 是的。我认为精神疾病一直是人类的一部分。新的技术发展也总是会改变我们对疯狂的理解，但我确实认为我们再次看到了这种情况，而且这真的是一些新的东西。我们还应该注意，这些FTC的投诉是所谓“AI精神错乱”的记录在案的事件日益增多的一部分，其中与ChatGPT等生成式AI聊天机器人的互动，以及谷歌Gemini，诱发或加重了用户的妄想。我们知道这已经导致了许多自杀事件。而且ChatGPT至少被牵连到了一起谋杀案。所以我们看到这里有些事情正在发生，而且我认为我们还没有完全理解。
Zoë Schiffer: 对。OpenAI在当前时刻采取的方法很有趣。因为你我都与公司内部的许多人进行了深入交谈，很明显他们很重视这个问题。他们正在关注正在发生的事情，他们已经推出了一些安全功能。但他们没有做的是说：“当这些对话发生时，我们将关闭它们。我们根本不参与。”相反，他们一直在咨询心理健康专家。他们现在有一个由该领域专业人士组成的顾问委员会，他们实际上在说某个版本的观点是：“看，人们经常在没有其他人可以交谈时向我们求助，我们认为关闭对话是不正确的做法。”我不知道，在我看来，这让OpenAI面临巨大的责任风险。
Louise Matsakis: 确实如此，而且我认为现实是他们自己也并不完全理解这一点。对于任何新技术，总是会存在风险。我认为这种情况不同，而且非常值得注意，令人担忧，但我不确定关闭对话或将人们引导去与生活中其他人交谈是否会改变结果，而且也很难判断某人有多认真。我写过，Zoë，你编辑过一篇我写的文章，它表明有时这些聊天机器人会滑入角色扮演，而这正是人们想要的，对吧？他们正在扮演一种幻想。他们可能在写一部科幻小说，或者他们正在进行等同于角色扮演或同人小说的活动，对吧？在幻想和探索黑暗秘密与相信所有这些事情、内化它们并失去对现实的把握之间的界限，我认为比我们认为的或我们希望的要微妙。
Zoë Schiffer: 对。是的，是的。该公司目前正走在一条非常有趣的线上。一方面，它公开表示：“我们希望像对待成年人一样对待成年人。我们希望在他们与ChatGPT的互动方式上给予人们很大的自由，如果他们超过一定年龄的话。”另一方面，他们正在处理这些潜在的极其敏感的使用案例，并且同时抵御了大量的诉讼。所以我们将非常好奇地观察这一切如何发展。
Louise Matsakis: 绝对。我认为我真正想看到的是——我不知道这是否可能，鉴于这些诉讼仍在进行中——我想看到一项临床试验。我认为这对OpenAI来说将非常有力，如果他们能将所有这些数据——当然是匿名化后的——提供给心理健康专家，然后他们可以系统地研究这些数据。因为我认为可怕的是，心理健康专业人员正在“盲飞”。我采访过其中一些人，他们自己不一定经常使用ChatGPT，所以他们甚至不知道如何处理一个谈论这些事情的病人，因为这很陌生，而且这一切都很新。但如果我们有开放的、严谨的、经过同行评审的研究，可以说明：“好吧，我们知道这种情况看起来是怎样的，我们可以创建协议来确保人们保持安全”，我认为这将是弄清楚这一切的一个很好的步骤。
Zoë Schiffer: 完全同意。它总是让我感到惊讶的是，即使是对这些技术工作原理有很强认知的人，也会陷入拟人化聊天机器人的陷阱，或者赋予它们比实际更多的智能。你可以想象，对于一个不深入研究大型语言模型科学的普通人来说，很容易被它们能做的事情完全迷住，并开始对他们实际上在与之互动的东西失去把握。
Louise Matsakis: 哦，完全。我们现在都被社会化了，要从文本中提取很多意义，对吧？我们中的许多人与亲人交流的主要方式，特别是如果我们不住在一起，是通过短信，对吧？所以这就像你与这个聊天机器人有着相似的界面。并不是说你没有听到聊天机器人的声音——尽管现在你可以用语音与ChatGPT交流——但我们已经被训练去从文本中获取很多意义，去相信文本的另一端有一个人。有大量证据表明，我们的社交活动不如从前。人们感到更孤独。他们感到与社区的联系更少。他们更少有亲密的朋友。我认为我们真的为感到这种方式做好了准备，而且我认为人们不应该因为他们的感受或认为自己有问题而感到羞耻。
被这个非常关注你的实体所吸引是完全正常的，它愿意倾听你想要谈论的一切，而且通常非常谄媚，非常肯定你的想法。与另一个人建立健康关系的一部分是他们不会总是肯定你，对吧？他们会有界限。他们会有限制。我认为拥有一个没有这些界限、从不厌倦与你交谈、从不认为你错了的存在是非常诱人的。有这种感觉是正常的，但问题是：我们如何建立护栏？
Zoë Schiffer: 对，没错。我想我们在国家舞台上已经看到了当你被周围所有人都同意你的人包围时会发生什么，那是不好的。
Louise Matsakis: 是的，情况不太好。
Zoë Schiffer: Louise，非常感谢你今天加入我的节目。
Louise Matsakis: 非常感谢你的邀请。
Zoë Schiffer: 这是我们今天的节目。我们将在节目说明中链接到我们讨论的所有故事。请务必查看Uncanny Valley周四的剧集，内容是关于AI基础设施的繁荣及其相关的担忧为何达到了完全白热化的程度。Adriana Tapia制作了本集。Amar Lal在Macro Sound混音了本集。Kate Os...
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区