📢 转载信息
原文链接：https://www.wired.com/story/can-ai-escape-enshittification-trap/
原文作者：Steven Levy
最近我在意大利度假。像现在的人一样，我让 GPT-5 帮我规划行程，提供观光和餐厅建议。这个机器人告诉我，在罗马酒店附近最好的晚餐选择是在 Via Margutta 街短暂停留。那真是我记忆中最棒的一顿饭之一。回家后，我问这个模型是如何选择那家餐厅的，我犹豫着要不要在这里透露它的名字，万一将来我想去预订呢（天知道我是否还会回去：它叫 Babette。请提前打电话预订。）答案很复杂也很令人印象深刻。因素包括当地人的好评、美食博客和意大利媒体的报道，以及餐厅备受赞誉的罗马和当代烹饪的结合。哦，还有那段短距离的步行。
我这边也需要付出一些东西：信任。我必须相信 GPT-5 是一个诚实的中间人，在推荐餐厅时没有偏见；相信这家餐厅不是以赞助内容的形式推荐给我的，它也不会从我的账单中抽取佣金。我本可以自己做深入研究来核实这个推荐（我确实查了它的网站），但使用 AI 的目的就是为了绕过这种麻烦。
这次经历增强了我对 AI 结果的信心，但也让我思考：随着像 OpenAI 这样的公司变得越来越强大，并且试图向投资者收回成本，人工智能是否也会像我们今天使用的科技应用一样，容易遭受价值的侵蚀？
文字游戏
作家兼科技评论家科里·多克托罗（Cory Doctorow）将这种侵蚀称为“变质化”（enshittification）。他的前提是，像谷歌、亚马逊、脸书和 TikTok 这样的平台一开始旨在取悦用户，但一旦它们击败了竞争对手，就会故意变得不再那么好用，以获取更大的利润。在 WIRED 转载了多克托罗 2022 年开创性的关于这一现象的文章后，这个词进入了人们的日常用语，主要是因为人们认识到它完全说中了要害。“变质化”被美国方言学会评为 2023 年度词汇。这个概念被引用得如此之多，以至于它已经超越了其本身的粗俗性，出现在那些通常会避开这种词汇的场合。多克托罗刚刚出版了一本同名书籍来探讨这个主题；书的封面图片就是那个……你猜是什么表情符号。
如果聊天机器人和 AI 代理变得“变质”，那可能会比谷歌搜索变得不那么有用、亚马逊的搜索结果充斥着广告，甚至比脸书为了煽动性的点击诱饵而减少社交内容展示更糟糕。
人工智能正朝着成为我们持续的伴侣、对我们的许多请求提供一次性答案的方向发展。人们已经依赖它来帮助解读时事，并就各种购买选择——甚至是生活选择——提供建议。由于开发一个成熟的 AI 模型成本巨大，可以合理地假设只有少数几家公司会主导这个领域。所有这些公司都计划在未来几年花费数千亿美元来改进他们的模型，并将它们推向尽可能多的人手中。现在，我认为 AI 正处于多克托罗所说的“对用户有利”的阶段。但收回巨额资本投资的压力将是巨大的——特别是对于用户基础已被锁定的公司而言。多克托罗在书中写道，这些条件允许公司“为了将所有价值攫取给自己而虐待用户和商业客户”。
当我们想象 AI 的“变质化”时，首先想到的就是广告。最糟糕的情况是，AI 模型将根据哪些公司支付了展示费用来进行推荐。现在这种情况还没有发生，但 AI 公司正在积极探索广告领域。在最近的一次采访中，OpenAI 首席执行官萨姆·奥特曼（Sam Altman）说：“我相信我们可能会做一些很酷的广告产品，这对用户来说是净收益，对我们与用户的关系也是一种积极影响。”与此同时，OpenAI 刚刚宣布与沃尔玛达成协议，让这家零售商的客户可以在 ChatGPT 应用内购物。我可想象不出这其中有什么冲突！AI 搜索平台 Perplexity 有一个项目，其中赞助结果会出现在明确标记的后续回答中。但它承诺，“这些广告不会影响我们维护一个可信赖服务的承诺，该服务会为你提供直接、公正的答案。”
这些界限能守住吗？Perplexity 的发言人杰西·德怀尔（Jesse Dwyer）告诉我：“对我们来说，首要的保证是我们将不会让这种情况发生。”在 OpenAI 最近的开发者日上，奥特曼表示，该公司“非常清楚需要非常小心”，以免为自己服务而不是为用户服务。多克托罗的教义并不太相信这样的陈述：“一旦一家公司能够让其产品变质，它就会面临让其产品变质的永恒诱惑，”他在书中写道。
在聊天对话或搜索结果中植入广告不是 AI 变质的唯一方式。多克托罗引用了市场主导型公司改变商业模式和收费的例子。例如，2023 年，最流行的电子游戏开发工具提供商 Unity 决定收取新的“运行时费用”（runtime fee）。这种恶劣行为如此严重，以至于用户奋起反抗并成功使其费用撤销了。但看看像亚马逊 Prime Video 这样的流媒体服务发生了什么：它曾经是一个无广告的服务。现在，它让你在电影播放前和播放期间观看广告。你必须付费才能关闭它们。哦，而且亚马逊 Prime 的价格还在不断上涨。因此，锁定用户然后提高费用可能是大型科技公司的标准做法。甚至有可能，为了在聊天机器人的回答中保持相同的智能水平，用户可能有一天需要升级到更高、更昂贵的层级——这是另一种“变质化”的伎俩。也许那些曾经承诺你的聊天机器人活动不会被用于训练未来模型的公司会改变主意——仅仅因为他们可以逃脱惩罚。
科里谈话
多克托罗在他的书中没有涉及 AI，所以我打电话给他，看看他是否认为这个领域注定要走上“排泄之路”。我本以为他可能会概述 AI 公司将如何落入他提出的这个“臭气熏天”的综合征的各种方式。令我惊讶的是，他的看法有所不同。他不是 AI 的粉丝，并声称该领域甚至还没有达到我前面提到的“对用户有利”的阶段。尽管如此，他说，AI 变质的过程仍然可能发生。因为很难看清大型语言模型（LLM）的“黑箱”内部发生了什么，他说，“它们有一种能力，可以以一种允许它们蒙混过关的方式来掩盖它们的‘变质化’。”最重要的是，他说，该领域的“糟糕的经济状况”要求这些公司等不及交付价值，就会让产品变质。“当经济状况恶化时，我认为他们会尝试你能想象到的每一种不光彩的策略，”他说。
我不同意多克托罗关于 AI 价值的看法。嘿，它帮我找到了 Babette！但我确实担心这项技术可能容易受到他无误地识别出的当前科技巨头所存在的“变质化”过程的影响。你猜怎么着——GPT-5 同意我的看法。当我向这个聊天机器人提出这个问题时，它回答说：“多克托罗的‘变质化’框架（平台一开始对用户有利，然后将价值转移给商业客户，最后为自己榨取价值）如果激励措施不受制约，就会非常恰当地映射到 AI 系统上。”然后 GPT-5 列出了一系列 AI 公司可能为了利润和权力而损害其产品的方法。AI 公司可能会向我们保证它们不会让产品变质。但它们自己的产品已经写下了蓝图。
这是 Steven Levy 的 Backchannel 时事通讯 的一期。可以在 这里 阅读以往的时事通讯。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区