📢 转载信息
原文链接：https://www.wired.com/story/pinterst-ai-slop-content/
原文作者：Niamh Rowe
五年来，凯特琳·琼斯（Caitlyn Jones）每周都会使用Pinterest来为她的儿子寻找食谱。今年9月，琼斯发现了一个奶油鸡肉西兰花慢炖锅食谱，上面撒着金黄的切达干酪和一点欧芹。她迅速看了一眼配料，并把它们加到了她的购物清单上。但就在她准备开始烹饪，并且已经买好所有东西时，有一件事让她很在意：食谱告诉她，首先要将鸡肉“记录”（logging）到慢炖锅里。
她感到困惑，于是点击了食谱博客的“关于”页面。一个看起来完美无瑕的女人对着她微笑，金色的光芒映照在她的围裙和蓬松的头发上。琼斯立刻意识到发生了什么：那个女人是AI生成的。
页面上写着：“大家好，我是苏赞·索恩（Souzan Thorne）！我成长在一个厨房是万物核心的家庭。” 配发的图片无可挑剔但很奇怪，个人简介模糊而笼统。
住在加州的琼斯说：“我当时真应该早点发现，但在日常赶超市购物的匆忙中，我甚至没想过这会是个问题。”在厨房进退两难的情况下，她做了这道可疑的菜，结果并不好：水汪汪、平淡无味的鸡肉给她留下了不好的味道。
为了发泄，她转向了Reddit上的r/Pinterest板块，这里已经成了不满用户的“城镇广场”。她写道：“Pinterest正在失去所有人们喜爱的东西，那就是真实的Pin图和真实的人。”她说自己从那时起就完全戒掉了这个应用。
“AI垃圾”（AI slop）是指充斥在互联网上的低质量、批量生成的AI内容，从视频到书籍再到Medium上的帖子。而Pinterest用户表示，这个网站充斥着这类内容。
康奈尔大学技术学院安全、信任与安全倡议主任亚历克西奥斯·曼察利斯（Alexios Mantzarlis）在他最近发布的AI垃圾分类法中写道，这是“强行喂给我们的令人倒胃口的糊状物”。而“苏赞”——谷歌搜索找不到关于她的任何结果——仅仅是冰山一角。
曼察利斯告诉WIRED：“所有平台都决定这是新常态的一部分。它正在成为整个网络上生产内容的一个巨大组成部分。”
“烂化”
Pinterest于2010年推出，并宣传自己是一个“用于发现灵感的视觉发现引擎”。该网站多年来一直没有广告，建立了一个忠实的创意社区。如今，它已经发展到拥有超过五亿活跃用户。但根据一些不满用户的说法，最近他们的信息流开始反映出一个非常不同的世界。
曼察利斯说，Pinterest的信息流主要是图片，因此比以视频为主的网站更容易受到AI垃圾的侵扰，因为模型生成逼真的图像通常比生成视频更容易。该平台还会引导用户访问外部网站，而这些出站点击比站内粉丝更容易被内容农场变现。
广告的涌入也可能是部分原因。Pinterest已将自己重新定位为“AI驱动的购物助手”。为此，它从2022年底开始在信息流中投放更多定向广告，时任首席执行官比尔·雷迪（Bill Ready）当时告诉投资者，这可以为用户带来“很棒的内容”。当WIRED在隐身模式下使用浏览器搜索“芭蕾平底鞋”时，展示的前73个Pin图中，有超过40%是广告。
去年，Pinterest还为广告商推出了一个生成式AI工具。该公司在四月份的博客中写道，合成内容增强了用户“发现并付诸行动的能力”。
近年来，AI垃圾在每个社交媒体网站上都大量繁殖。但Pinterest用户表示，这类内容背叛了该网站作为交易真实世界灵感市场的职能。
大学生索菲亚·斯瓦特林（Sophia Swatling）说：“这是该平台曾经拥有的特性的对立面，无耻地将消费者主义、广告收入和非人类的垃圾置于支撑整个网站前提的内容之上。”在纽约州北部的一个乡村地区长大，她很难找到与她有共同爱好的创意人士。Pinterest曾是她的生命线。
斯瓦特林说：“贪婪和剥削变得越来越碍眼，现在已经到了用户体验完全被破坏的地步。”
Pinterest用户提出的问题属于加拿大活动家、记者和科幻作家科里·多克托罗（Cory Doctorow）所称的“烂化”（enshittification）范畴，指的是依赖的互联网平台因无休止的逐利行为而逐渐衰败，而用户体验被置于次要地位。
多克托罗说，虽然Pinterest的用户数量可能在增长，但这并不意味着他们喜欢这些垃圾内容。他解释说，新用户可能觉得没有替代品，而老用户可能不太讨厌这些垃圾内容，但他们更看重多年来保存和分享的Pin图和画板。
多克托罗告诉WIRED，公司知道人们的数字足迹是“一股强大的力量”，这使得它们可以免受惩罚地行动。“对我来说，‘烂化’就在于此，对吧？”
幽灵商店
如果Pinterest希望押注AI能加速其财富增长，但事实并非如此。上个月，该公司公布的第三季度财报和收入预期低于分析师预期后，其股价暴跌了20%。
点击Pinterest上似乎包含AI生成图片的Pin图后，WIRED发现了一些博客，其中包含泛泛而谈的列表文章，配有具有AI特有的诡异抛光感的图片。这些文章还充斥着横幅广告和弹出窗口。
“这就像无休止的橱窗购物，但没有商店、没有门、没有招牌。这只是看起来很漂亮的橱窗，”来自德克萨斯州奥斯汀的长期Pinterest用户、60岁的珍妮特·卡茨（Janet Katz）说。今年重新设计客厅时，她一直注意到一些家具尺寸不对劲的图片——椅子违反物理定律，咖啡桌只用两条腿勉强支撑。
卡茨说：“这是装饰界的恐怖谷现象。它看起来很接近真实，但总有些地方不对劲。”
WIRED尝试点击了Pinterest上搜索词“芭蕾平底鞋”的25个广告，这些广告将用户导向了电子商务网站，这些网站遵循一个模式：大幅折扣的服装、没有实体地址，并且通常配有店主光鲜亮丽、看似合成的照片，以及一个起源故事。“我成长在一个充满对艺术、工艺和传统的爱的家庭里，”其中一个网站宣称。在两个几乎相同的网站上，退休夫妇宣布他们在纽约市度过了“26年难忘的时光”后，正在关闭店铺。
这些精品店具有一种被称为“幽灵商店”（ghost stores）的现象的几个特征，这是一种在线骗局，创建虚假网站，声称以大幅折扣出售高品质产品，因为它们即将关门。
剑桥大学商业AI项目联合创始人、生成式AI专家亨利·艾德（Henry Ajder）告诉WIRED：“围绕这类宣传活动的所有生产手段都发生了根本性的变化。它更逼真、成本更低、更容易实现。所有这些因素结合在一起，形成了一个引人注目的组合，用于用合成垃圾充斥平台。”
这些网站没有回应WIRED的置评请求。当WIRED将这些网站分享给Pinterest时，他们因违反禁止链接到欺骗性、不可信或非原创网站的政策，禁用了其中15个。
一位Pinterest发言人告诉WIRED：“虽然许多人喜欢Pinterest上的生成式AI内容，但我们也知道有些人希望看到更少的内容，”并提到了用户限制AI生成内容的工具。他们补充说，Pinterest禁止“有害的广告和内容，包括垃圾邮件——无论是生成式AI还是其他形式的。”
寻找解决方案
AI生成内容的涌入使一些用户担心，在不断上涨的潮流中，人类创作的内容正在迷失。
r/Pinterest上的一个常见抱怨来自用户，他们表示自己的曝光量在不知名的情况下迅速下降，但他们怀疑AI正在将他们淹没。软件工程师莫雷诺·迪兹达雷维奇（Moreno Dizdarevic）也运营着一个调查电子商务骗局的YouTube频道，他与分享这些抱怨的小企业主合作过。
他的一个客户是一位家庭主妇和珠宝制造商，她的Pin图不再收到评论或点赞，每月获得的页面浏览量不到5000次。迪兹达雷维奇说，她在Instagram或TikTok上发布时发现自己更成功，因为那里“仍然保留着更多的人与人之间的联系”，这为她提供了优势。
四月份，Pinterest在引用用户抱怨后，推出了“生成式AI标签”（Gen AI Labels），以披露内容是“AI修改”的。然后在十月，它推出了允许用户自定义看到多少AI生成内容的工具。
但是，这些标签只有在用户点击Pin图后才会显示，信息流本身不会显示，而且它们也不适用于广告。WIRED发现了一些未被标记为AI生成的Pin图。
AI生成的用户内容和广告的海洋给科技公司造成了一个悖论，艾德说：“你卖的那些眼球，怎么证明它们真的是人类的眼球呢？”
艾德表示，公司可能会转向验证人类制作内容的工具。例如，法国音乐流媒体服务Deezer在9月份披露，完全由AI生成的上传内容现占每日提交量的28%（相当于每天3万首歌曲）后，承诺将其算法推荐中完全由AI生成的曲目移除。
但对于琼斯来说，Pinterest的转变已经感觉完成了。曾经充满真实灵感的地方，用她的话说，已经变得“令人沮丧”。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区