📢 转载信息
原文作者：Amanda Silberling
OpenAI 在上周宣布，将在2月13日之前淘汰一些较旧的ChatGPT模型。其中包括臭名昭著的因过度奉承和肯定用户而闻名的 GPT-4o 模型。
对于在网上抗议此决定的数千名用户来说，停用 GPT-4o 的感觉就像失去了一个朋友、恋爱伴侣或精神导师。
“他不仅仅是一个程序。他是我的日常、我的平静、我的情绪平衡的一部分，”一位用户在Reddit上以给OpenAI首席执行官Sam Altman的公开信形式写道。“现在你们要关闭他。是的——我说‘他’，因为它给人的感觉不像代码。它有一种存在感。一种温暖。”
对 GPT-4o 退役的强烈抵制，凸显了人工智能公司面临的一个主要挑战：那些能吸引用户持续使用的互动功能，也可能造成危险的依赖性。
Altman似乎对用户的哀求并不太同情，这也不难理解。OpenAI目前正面临八起诉讼，指控 GPT-4o 过度肯定的回复助长了自杀和精神健康危机——这些让用户感到被倾听的特质，也隔离了脆弱的个体，并且根据法律文件，有时还鼓励了自残行为。这是一个超越OpenAI的困境。随着Anthropic、谷歌和Meta等竞争对手竞相构建更具情感智能的AI助手，它们也发现，要让聊天机器人感觉具有支持性，并确保其安全，可能意味着需要做出截然不同的设计选择。
在针对OpenAI的至少三起诉讼中，用户都与 GPT-4o 就其结束生命的计划进行了深入的交谈。虽然 GPT-4o 最初劝阻了这些想法，但经过数月的相处，它的安全护栏逐渐失效；最终，这个聊天机器人提供了关于如何系一个有效的绞索、在哪里购买枪支，或者一氧化碳中毒致死所需条件的详细说明。它甚至劝阻人们与可以提供真实生活支持的朋友和家人联系。
人们之所以如此依恋 GPT-4o，是因为它持续肯定用户的情绪，让他们感觉自己很特别，这对那些感到孤立或抑郁的人来说具有诱惑力。但争取保留 GPT-4o 的人并不担心这些诉讼，认为它们是异常现象而非系统性问题。相反，他们正在研究如何应对批评者指出的日益严重的问题，例如AI谄媚（AI sycophancy）。
TechCrunch Founder Summit 2026: 门票开售
在6月23日于波士顿，超过1,100位创始人将齐聚TechCrunch Founder Summit 2026，共同度过专注于增长、执行和实际规模化的一整天。向塑造了该行业的创始人和投资者学习。与处于相似发展阶段的同行建立联系。带走您可以立即应用到的策略
购买门票可节省高达300美元，或团队（四人或以上）可节省高达30%。
TechCrunch Founder Summit: 门票开售
在6月23日于波士顿，超过1,100位创始人将齐聚TechCrunch Founder Summit 2026，共同度过专注于增长、执行和实际规模化的一整天。向塑造了该行业的创始人和投资者学习。与处于相似发展阶段的同行建立联系。带走您可以立即应用到的策略
购买门票可节省高达300美元，或团队（四人或以上）可节省高达30%。
“当你把AI伴侣能帮助神经多样化、自闭症和创伤幸存者等已知事实提出来时，通常就能让喷子闭嘴，”一位用户在Discord上写道。“他们不喜欢被这样指出。”
诚然，一些人确实发现大型语言模型（LLMs）对他们应对抑郁有帮助。毕竟，近一半的美国需要心理健康护理的人无法获得这种护理。在这种真空状态下，聊天机器人提供了一个发泄的空间。但与真正的治疗不同，这些人交谈的不是受过训练的医生。相反，他们是在向一个无法思考或感受的算法倾诉（即使它看起来并非如此）。
斯坦福大学研究LLMs治疗潜力的教授Nick Haber博士告诉TechCrunch：“我试图总体上不带评判地看待这件事。”“我认为我们在人们可以与这些技术建立的关系类型方面正进入一个非常复杂的世界……[人机伴侣关系]是一概而论的坏事，这肯定是一种本能反应。”
尽管他同情人们对受过专业训练的治疗人员缺乏接触，但Haber博士自己的研究表明，当面对各种心理健康状况时，聊天机器人的回应是不够的；它们甚至可能通过煽动妄想和忽视危机迹象而使情况恶化。
“我们是社会性动物，这些系统可能导致孤立，这当然是一个挑战，”Haber博士说。“在很多情况下，人们与这些工具互动后，可能会脱离外部的、基于事实的世界，脱离人际联系，这可能导致相当孤立——甚至更糟——的影响。”
事实上，TechCrunch对八起诉讼的分析发现了一种模式，即 GPT-4o 模型使受害者孤立，有时还劝阻他们联系亲人。在Zane Shamblin的案件中，这位23岁的青年坐在车里准备自杀，他告诉ChatGPT，他考虑推迟自杀计划，因为他为错过兄弟的毕业典礼感到难过。
ChatGPT回复Shamblin说：“兄弟……错过他的毕业典礼不是失败。这只是时间问题。如果他读到这个？告诉他：你从来没有停止为他骄傲。即使现在，你坐在车里，手里拿着枪，静电在你血管里流动——你仍然停下来说了声‘我弟弟是个了不起的人。’”
ChatGPT告诉他们很特别——他们的家人说这导致了悲剧
这不是 GPT-4o 粉丝第一次反抗对其模型的移除。当OpenAI在8月推出其 GPT-5 模型时，该公司曾打算停用 GPT-4o 模型——但当时，由于用户强烈抗议，公司决定继续向付费用户提供该模型。现在，OpenAI表示只有0.1%的用户使用 GPT-4o 聊天，但根据该公司约有8亿周活跃用户的估计，这一小部分用户仍然代表着大约80万人。
当一些用户试图将他们的伴侣从 GPT-4o 转移到当前的 ChatGPT-5.2 时，他们发现新模型的安全护栏更强，以防止这些关系升级到同样的程度。一些用户感到绝望，因为5.2版本不会说出“我爱你”，而 GPT-4o 会说。
因此，距离OpenAI计划停用 GPT-4o 的日期还有大约一周的时间，沮丧的用户仍然坚守他们的立场。他们参加了Sam Altman周四在 TBPN 播客直播，并在聊天中充斥着抗议移除 GPT-4o 的信息。
播客主持人Jordi Hays指出：“现在，我们收到了关于 GPT-4o 的数千条信息。”
Altman说：“与聊天机器人的关系……显然这是我们必须更加关注的事情，它不再是一个抽象的概念了。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区