📢 转载信息
原文链接：https://www.wired.com/story/ai-slop-is-ruining-reddit-for-everyone/
原文作者：Kat Tenbarge
一篇关于新娘要求婚礼宾客穿上特定、不讨喜的色调的Reddit帖子肯定会激起愤怒，更不用说关于伴娘或新郎母亲想穿白色的帖子了。一个关于家长在飞机上要求别人换座以便能和年幼的孩子坐在一起的情景，可能会引发同样的怒火。但这些帖子可能会因为另一个原因而激起Reddit版主的恼怒——它们是日益增长的AI生成、虚假帖子类型中的常见主题。
这些是Cassie，r/AmItheAsshole（我是不是混蛋）版块数十名版主之一，脑海中浮现的例子。该版块拥有超过2400万成员，是最大的版块之一，并且明确禁止AI生成内容和其他虚构故事。自2022年底ChatGPT首次公开发布以来，Cassie（只愿透露名字）和其他自愿花时间管理Reddit帖子的版主一直在努力应对AI内容的涌入。有些内容是完全由AI生成的，而其他用户则开始使用Grammarly等AI程序编辑他们的帖子和评论。
“这可能比任何人愿意承认的都要普遍，因为把帖子扔进ChatGPT里说‘嘿，让这个更精彩’实在是太容易了，”Cassie说，她认为多达一半的Reddit帖子内容可能以某种方式经过了AI的创建或重写。
r/AmItheAsshole是Reddit文化的一个支柱，这种形式启发了数十个甚至数百个衍生版块，如r/AmIOverreacting（我是反应过度了吗）、r/AmITheDevil（我是恶魔吗）和r/AmItheKameena（我是混蛋吗，印度版）。这些帖子通常包含人际冲突的故事， Redditors可以在其中权衡谁是错的（“YTA”意为“你是混蛋”，而“ESH”意为“这里所有人都很糟糕”）、谁是对的，以及接下来的最佳行动方案。这些r/AmItheAsshole变体版块的用户和版主都报告称，他们看到了更多他们怀疑是AI生成的内容，而其他人则表示这是整个网站范围内发生在所有类型版块中的问题。
r/AITAH（我是不是混蛋）的版主说：“如果你有一个综合性的婚礼版块，或者AITA、关系版块或类似的地方，你会被重创。”该版块是r/AmItheAsshole的一个变体，拥有近700万成员。这位版主是一位退休人士，她要求匿名发言，她在Reddit上活跃了18年——即Reddit存在的大部分时间——在此之前，她还拥有数十年的网络行业经验。她将AI视为该平台潜在的生存威胁。
“Reddit本身要么需要做点什么，要么这个‘蛇要吞食自己的尾巴’（恶性循环），”她说。“现在已经到了AI在喂养AI的地步了。”
在回复置评请求时，一位Reddit发言人表示：“Reddit是互联网上最人性化的地方，我们希望它能保持下去。我们禁止操纵内容和不真实行为，包括冒充他人的误导性AI机器人账户和外国影响活动。只要在社区规则和我们网站范围的规则内，明确标记的AI生成内容通常是被允许的。”这位发言人补充说，2025年上半年，他们移除了超过4000万条“垃圾邮件和操纵内容”。
情调转向恶化
Ally，一位26岁的佛罗里达州社区大学辅导员，她只透露了名字以保护隐私，她注意到过去一年Reddit因为AI而“真的走下坡路了”。她的感受得到了r/EntitledPeople（目中无人的人）、r/simpleliving（极简生活）和r/self（自我）等版块中其他用户的认同，这些版块在过去一年中都抱怨着疑似AI内容的增加。仅仅是某件事可能是AI生成这种可能性，就已经侵蚀了用户之间的信任。“AI正在把Reddit变成一堆垃圾，”一个账户在r/AmITheJerk（我是不是混蛋，但更倾向于指责别人）上写道。“即使一个被怀疑是AI的帖子不是，仅仅是AI的存在就像房间里有个间谍。怀疑本身就是敌人。”Ally过去喜欢阅读r/AmIOverreacting等版块。但现在她不知道自己的互动是否真实，并且她花在平台上的时间比过去几年都要少。
r/AITAH的版主说：“AI让所有人都感到筋疲力尽。”“我看到人们投入巨大的精力为人们寻找资源，结果却得到回复说：‘哈，你上当了，这都是谎言。’”
检测AI
几乎没有万无一失的方法可以证明某物是否是AI生成的，而且大多数普通人依赖于自己的直觉。与照片和视频相比，文本甚至更难评估，因为照片和视频通常有非常明确的线索。五位接受WIRED采访的Redditor都对如何识别AI生成的文本有不同的策略。Cassie会注意到帖子正文与标题逐字重复的情况，或者使用破折号（em dashes），以及发帖者评论历史中的拼写和标点都很差，但帖子本身却语法完美。Ally则会被新创建的Reddit账户和标题中带有表情符号的帖子所困扰。r/AITAH的版主则从某些帖子中感受到一种“恐怖谷”般的感觉。但这些“线索”也可能出现在根本没有使用AI的帖子中。
康奈尔技术学院的博士生Travis Lloyd说：“到了这一步，这有点像‘你看到它就知道’的感觉，”他曾发表过关于Reddit版主面临的新AI驱动挑战的研究。“目前，没有可靠的工具可以100%检测出来。所以人们有自己的策略，但它们不一定万无一失。”
此外，随着更多的AI文本出现在公共领域，人们会开始模仿AI生成语言的共同点，无论他们是否使用AI。在Reddit上，AI的反馈循环可能更加“近亲繁殖”，因为该平台已起诉Anthropic和Perplexity等AI公司，指控它们未经同意抓取Reddit内容来训练聊天机器人。Anthropic和Perplexity。谷歌的AI摘要结果就曾臭名昭著地从Reddit评论中抓取内容，而这些评论实际上是讽刺性的笑话，例如有用户建议使用胶水来让奶酪更好地粘在披萨皮上。
“AI是根据人训练出来的，而人则会模仿他们看到别人做的事情，”Cassie说。“人变得更像AI，而AI变得更像人。”
针对少数群体的煽动仇恨帖子
两位AITA版主都表示，他们观察到一种趋势：一些可能由AI撰写的煽动仇恨的帖子，似乎只是为了恶意诋毁跨性别者和其他弱势群体。r/AITAH的版主表示，在骄傲月期间，该版块收到了大量反跨性别的帖子，而Cassie表示这些内容会间歇性地出现在她的版主队列中。
“像‘我父母没有使用我选择的名字，我是跨性别者，我因此对他们大发雷霆，因为他们怎么敢’或者‘有人猜我是顺性别的，但我其实是顺性别的，他们怎么敢猜测我的性别’这样的内容，”Cassie说。“它们只是想让你对跨性别者、同性恋、黑人、女性感到愤怒。”
在关注新闻和政治的版块中，AI为传播虚假信息开辟了新的途径。Tom，一位曾为r/Ukraine版块管理了三年的Redditor，他也只透露了名字以保护隐私，他发现AI与比ChatGPT早期的“拉拢”（astroturfing）等社交操纵技术并存。但现在，AI可以自动化这些策略，使人类版主更难跟上。
“这就像一个人站在田野里对抗海啸，”Tom说。“你可以用极少的努力制造出大量的噪音。”
在拥有近百万成员的r/Ukraine版块，Tom记得曾接受其他版主的培训，以试图减缓俄罗斯宣传的传播，甚至得到了Reddit管理员的专门支持，这些管理员比志愿者高一级，并且由Reddit雇佣并发放工资。
变现功德值（Karma）
除了意识形态动机外，还有一些鲜为人知的方法可以从Reddit内容中获利。有些比较明显，比如Reddit贡献者计划，该计划允许发帖者通过获得其他用户购买的“功德值”（karma）和奖励来赚钱。理论上，Reddit的“高手”可以利用AI生成的内容来积累功德值，从中获利，甚至出售他们的账户。
“我的Reddit账户值很多钱，我知道，因为总有人想买它，”Tom说。“它也可能被用于邪恶的目的，但我怀疑其中很多是那些无聊又有时间的人，他们会想，‘好吧，我几乎什么都不用做，每个月就能赚一百美元外快。’”
其他账户需要功德值才能在有功德值要求的NSFW（不适宜工作场所）版块中发帖，这样他们就可以推广像OnlyFans链接这样的东西。Cassie和r/AITAH的版主都注意到了账户在他们的大版块中发帖积累功德值，然后转向发布成人内容。其中一些是骗子。其他人可能只是试图谋生。
“有时候是真的，有时候是他们真正发生过的冲突，有时候是假的，有时候无论哪种情况都是AI生成的，”Cassie说。“我几乎想称之为游戏化，他们只是试图按照系统设立的方式来利用系统。”
Reddit版主筛选潜在AI材料所需花费的额外时间，反映了AI内容总体上带来的新障碍，但这远远超出了社交媒体管理的范畴。
Lloyd说：“Reddit版主正在处理的是目前各地人们都在处理的问题，即适应这样一个世界：创建看似可信的AI生成内容所需的努力极少，而评估这些内容所需的努力却要多得多。”“这对他们来说是一个真正的负担，就像对教师和其他人一样。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区