📢 转载信息
原文链接：https://www.wired.com/story/teens-are-using-ai-fueled-slander-pages-to-mock-their-teachers/
原文作者：Owen Carry
视频开头，一位学区总监正在对口型演唱一首情歌，但他并非唯一的表演者。
以色列总理本雅明·内塔尼亚胡和已故的性犯罪者杰弗里·爱泼斯坦的AI生成版本与他一起演唱这首情歌——这是Will Joseph Cook的《Be Around Me》与TikTok用户Beth McCarthy改写的歌曲的拼接——爱泼斯坦口型唱着：“哦我的天，他叫她宝贝，也许？”
这段视频发布在Instagram账号@thewyliefiles上，获得了超过107,000次点赞。其标题就像一个大型语言模型对德克萨斯州科林县Wylie独立学区的概述，吹嘘其“强大的学术能力”和“广泛的课外活动”。一条热门评论写道：“发现了一个宝藏！”暗示路人在日常滚动中发现了金矿。
这个短剧只是Instagram和TikTok上一种新的AI视频表情包趋势的例子，学生们通过这种趋势来嘲讽学校的教职工，有时甚至攻击他们的声誉，似乎仅仅是为了获得病毒式传播。这些大部分由学生运营的账号在网上获得了“诽谤页面”的昵称。它们是普通高中恶作剧的数字变异，但潜在的风险要大得多。
“诽谤页面”的帖子使用了源自互联网不入流部分的俚语。“Looksmaxxing”的语言，源自教授男性如何更有吸引力的manosphere论坛，经常在这些表情包中使用，包括像“mog”（意为用外貌压倒另一个男人）和“sub5”（意为外貌低于平均水平的人）这样的词语。
一些“诽谤”视频使用了AI图像转视频工具Viggle AI。该工具允许创作者将任何拍摄的图像插入任何参考视频，并将静态图像制作成口型同步视频。去年2月，伦敦国王学院的一个学术研究部门“全球网络极端主义与技术”在其一篇博客文章中将Viggle AI描述为“生成煽动性极端主义宣传的全新领域”。截至2月，该平台宣称拥有超过4000万用户。Viggle AI未对置评请求作出回应。
在TikTok上发布的一段已被删除的、使用Viggle AI的“诽谤”视频中，一名教师的脸被叠加在一个在浴室里抽搐的人身上。叠加的文字写道：“服用芬太尼或变得无用”，将抽搐标记为芬太尼高潮。
这些页面的发布者还使用变形的极端主义符号。例如，一些教师被引入了虚构的阿加尔塔（Agartha）领域，这是新纳粹神秘主义的一个关键设定，在那里所有人都拥有白皙的皮肤和金色的头发。编辑中的教职工被描绘成拥有发光的白眼睛，表示他们被允许进入阿加尔塔，或者拥有红眼睛，表示他们被拒绝。
在德克萨斯州克兰德尔高中（Crandall High School）的案例中，情况变得更加极端。由名为@crandall.kirkinator的病毒式TikTok账号发布的表情包已经突破了当地Crandall用户的范围，激励了数十万粉丝的TikTok用户——他们与学校没有明显联系——放大对Crandall教师的“诽谤”。甚至有病毒式视频短片模拟了管理者训斥制作这些帖子的学生的场景。
Crandall High School的管理者拒绝就此情况发表评论，但在1月底，@crandall.kirkinator TikTok账号上的所有内容都被清除，并被一份声明取代，承认了相应的Instagram账号已被删除。“我的Instagram账号没有被封禁，是我自愿删除的……一些老师受到了骚扰、垃圾电话或电子邮件，这从来都不是我的本意……创建该账号是为了开玩笑，从未想过会升级到这个程度。”声明中写道。发布声明几天后，该账号在TikTok上重新开始发帖。上周，它被彻底删除。
Meta（Instagram的母公司）的发言人Tracy Clayton告诉WIRED，其平台不允许仇恨行为、欺凌和骚扰，Meta审查并删除了违反其政策的一些相关“诽谤”内容。TikTok的一位发言人表示，该平台的政策禁止骚扰，并且已经删除了违反其社区准则的内容，并实施了规则来自动捕捉类似内容。
@thewyliefiles的管理人员（一名要求匿名的Wylie High School的男学生，担心受到处分）将大多数内容——包括将教师标记为“cucks”或“Netanyahu”的视频——描述为“讽刺性的诽谤”。
在一个视频中，一位老师被贴上了“掠夺者和懦夫”的标签，并配上了两张AI生成的图片，描绘他和一个坐在所谓“cuck chair”（一种用于观看伴侣与他人发生性关系椅子的昵称）中，他正在追逐孩子。
在@thewyliefiles看来，“cuck”比“Netanyahu”是更严重的侮辱。“这是更大的事情，因为它不像开玩笑，”他说。但他也表示，他注意到提及爱泼斯坦和内塔尼亚胡能让视频获得更多关注。“我看到人们现在真的会在Kahoot（一个在线学习游戏平台）的名字里写上IDF soldier和@thewyliefiles，”他补充道，甚至账号的名字也是“玩爱泼斯坦文件梗”。
阿姆斯特丹大学研究表情包的İdil Galip表示，像@thewyliefiles这样的创作者受益于以色列和爱泼斯坦文件生成大量网络讨论这一事实。“这是一个令人遗憾的现状，这些是人们可以利用其内容创作来获得人气的节点。”
@thewyliefiles表示，他的目标是让这个页面“尽可能大”。但同时，他也表示担心老师们的安全。“如果你只是为了骚扰而骚扰，那真的不好，”他说。“我们不希望他们被起底。我们不希望他们被跟踪。我们不希望他们接到骚扰电话。”
Wylie独立学区的首席传播官April Cunningham在一份电子邮件声明中表示，该学区知晓该账号。“虽然我们理解一些学生可能正在探索AI工具或参与社交媒体趋势，但这绝不应该以损害我们教育者的声誉或制造误导性或破坏学习环境的内容为代价……如果我们发现负责的学生，他们将面临纪律处分和可能的法律后果。”声明中写道。
Cunningham还证实，该学区知晓上述@thewyliefiles的视频，包括将一名教师标记为“cuck”和“掠夺者”的视频。
声明中写道：“如果个人对学区员工的行为有合理的担忧，有明确且负责任的举报途径，”并引用了该学区的匿名举报热线等程序。“这些视频中描绘的指控，并未通过这些渠道进行任何举报。”
视频中被标记为“掠夺者”和“cuck”的老师，以及在与内塔尼亚胡和爱泼斯坦的口型同步视频中出现的Wylie ISD前学区总监，均未回应置评请求。
@thewyliefiles表示，他非常保密，没有告诉任何人他拥有这个账号。“我真的很享受当人们谈论它，并且说这个页面很有趣的时候，他们却不知道账号的主人就坐在他们旁边。”
网络文化研究所所长、阿姆斯特丹大学教授Geert Lovink表示，虽然学生们想要嘲讽老师的愿望“非常人性化”，但他们在青少年将这些视为无害的乐趣与在线发布此类表情包的后果之间，存在着“深刻的技术脱节”。
Galip补充说，诽谤页面的年轻管理者来自对隐私和身份重要性有不同理解的几代人。
“他们已经习惯了这种文化，这种持续的内容生产，（在那里）你的脸不是你的，而是观众的，评论者的笑料，”她说。“我们正在看到，当人们通过互联网成长，并通过互联网看到自己，而不是通过镜子看到自己时，会产生怎样的连锁效应。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区