📢 转载信息
原文链接：https://www.wired.com/story/fake-ai-content-about-the-iran-war-is-all-over-x/
原文作者：David Gilbert
当虚假信息专家Tal Hagin要求Grok（埃隆·马斯克旗下的人工智能聊天机器人）核实一条关于伊朗导弹袭击特拉维夫的X平台帖子时，Grok表现得一塌糊涂。
Grok 反复 错误识别了视频的地点和日期，该视频最初由一家伊朗国有媒体于周日分享在X平台上。随后，该聊天机器人试图通过分享一张AI生成的图像来证明其观点。
Hagin在回复中写道：“现在Grok用AI的废话来回应破坏性的信息。我告诉你，它被‘煮’熟了。”
这一互动清晰地概括了自2月28日美国和以色列开始攻击伊朗以来，X平台已经变得多么脱离现实。正如WIRED当时报道的那样，该社交媒体平台很快就被发布虚假和重新利用视频的账户淹没了虚假信息。
随着冲突的持续，这种信息洪流只会愈演愈烈。近几天，AI图像和视频更是加速了这一趋势，而Grok在被要求核实平台上提出的说法时，屡次给出错误信息。带有蓝色复选标记的付费账户和试图描绘夸大损害的伊朗官员正在分享AI图像。
易于获取的AI图像和视频生成工具的普及，导致了越来越复杂的虚假内容。例如，3月2日，伊朗官员和官方媒体分享了关于巴林一栋高层建筑着火的AI生成视频。这些视频和图像看起来足够逼真，让许多人信以为真：一张描绘伊朗击落美国B-2轰炸机并俘虏美军士兵的图像在被删除前获得了超过一百万次浏览，而伊朗当局俘虏三角洲部队成员的图像在被删除前获得了超过500万次浏览。
X平台上推广的一些AI内容则不太逼真。例如，一个视频声称展示了伊朗在山洞深处制造导弹。然而，该视频仍被多个账户分享，并获得了超过一百万次浏览。
AI也被伊朗政府用来推动赤裸裸的反犹太主义叙事。战略对话研究所（ISD）的研究人员与WIRED分享了他们的分析，指出X平台上一个亲政权宣传网络中的账户分享了AI生成的帖子，描绘了东正教犹太人带领美国士兵参战或庆祝美国人死亡的场景。
据ISD称，该亲政权网络中的一些账户还分享了一个虚假视频，声称显示一群年轻女孩只穿着内裤走过唐纳德·特朗普。该帖子在被删除前获得了超过680万次浏览，尽管它仍在X平台上被其他账户分享。
Hagin告诉WIRED：“这场战争特别独特之处在于，我发现自己需要揭穿的AI生成内容急剧增加。这可能是因为AI已经足够先进，能够欺骗记者，而且用户可以轻易地制造这些AI废话，而无需承担任何后果。如果我们不制定针对AI滥用的法规，造成的损害将越来越大。我认为，AI驱动的假新闻的泛滥正在将我们推向一个脱离事实的世界的边缘，除非我们立即做出改变。”
当上周AI生成的假内容开始充斥平台时，X宣布将暂时取消蓝色复选标记账户的盈利资格，如果它们发布未经标记的武装冲突AI生成视频。X没有回应关于自推出该措施以来有多少账户被取消盈利资格的评论请求。直到最近，一些伊朗官员似乎一直在为X的付费服务付费，该服务为他们的账户提供了蓝色复选标记，增加了参与度，并为他们的帖子创造了盈利的潜力。
AI以外的虚假信息在X平台上也持续泛滥。近几天，焦点集中在2月28日对米纳布一所小学发动的袭击，导致超过168人死亡，其中包括110名儿童。据《纽约时报》报道，亲特朗普的账户重新利用了当前冲突中的视频，试图推行伊朗政府导弹袭击学校的说法。一段由伊朗通讯社周日发布的视频，经《纽约时报》核实，显示一枚战斧巡航导弹击中了学校旁边的一个海军基地。尽管特朗普声称伊朗拥有战斧导弹，但美国是冲突中唯一使用战斧导弹的一方。
虽然关于战争的大量虚假信息，包括AI生成的内容，正在X平台上分享，但周二，Meta的监督委员会批评了该公司对其他AI生成内容进行标记的方法。该委员会表示，Meta“不够强大和全面，无法应对AI生成的错误信息规模和速度，尤其是在危机和冲突期间。”Meta在一份在线发布的声明中表示，欢迎委员会的调查结果。
“随着AI生成图像和视频越来越复杂，用户在看到被当作‘证据’来支持亲伊朗主张的视觉内容时，可能不会对其产生怀疑，因为它们看起来非常逼真，”媒体监测机构NewsGuard的分析师Isis Blachez告诉WIRED。“评估此类内容真实性的可用资源也有不足。例如，AI检测工具并不总能成功识别AI内容。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区