📢 转载信息
原文链接：https://www.technologyreview.com/2026/02/02/1132068/what-weve-getting-wrong-about-ais-truth-crisis/
原文作者：James O'Donnell
本文最初发表在我们的每周AI通讯 The Algorithm 中。如需第一时间在收件箱中接收此类文章，请在此处订阅。
我们曾长期被警告人工智能内容会欺骗我们、影响我们的信念（即使在我们识破谎言之后），并在此过程中侵蚀社会信任——我们正处于这个“真相衰退”的时代。要说服您相信这一点，需要付出什么代价？上周我发表的一篇报道让我彻底觉醒。它也让我意识到，我们被推销为解决这场危机的工具正在惨败。
周四，我报道了首个确认信息：美国国土安全部（DHS，负责移民事务）正在使用谷歌和Adobe的AI视频生成工具来制作并向公众分享内容。这一消息传来之际，移民机构正向社交媒体上充斥着支持特朗普总统大规模驱逐议程的内容——其中一些似乎是用AI制作的（例如一个关于“大规模驱逐后的圣诞节”的视频）。
但我从读者那里得到了两种类型的反应，它们可能同样揭示了我们所处的认知危机。
一种反应是人们并不感到惊讶，因为在1月22日，白宫曾发布了一张被数字修改过的一名在ICE抗议中被捕女性的照片，照片使她看起来歇斯底里、泪流满面。白宫副新闻秘书Kaelan Dorr没有回应关于白宫是否修改了照片的问题，但写道道：“表情包还会继续。”
第二种反应来自那些认为报道DHS使用AI编辑向公众分享内容毫无意义的读者，因为新闻媒体似乎也在做同样的事情。他们指出，新闻网络MS Now（前身为MSNBC）曾分享了一张Alex Pretti的照片，该照片经过AI编辑，使他看起来更英俊，这一事实在本周引发了许多病毒式传播的片段，包括乔·罗根播客中的片段。换句话说，以火攻火？MS Now的一位发言人告诉Snopes，该新闻机构在播放该照片时并不知道它经过编辑。
没有理由将这两种篡改内容的案例归为同一类别，或将它们视为真理不再重要的证据。一个案例是美国政府向公众分享了一张明显被篡改的照片，并拒绝回答是否是故意操纵；另一个案例是新闻机构播出了本应知道已被篡改但已采取一些措施披露错误的图片。
这些反应揭示的恰恰是我们集体为应对这一时刻所做的准备中存在的缺陷。关于AI真相危机的警告围绕一个核心论点：无法分辨什么是真实的将会摧毁我们，因此我们需要工具来独立验证真相。我的两个严峻的体会是：这些工具正在失效，而且虽然验证真相仍然至关重要，但它本身已不足以带来我们曾被承诺的社会信任。
例如，2024年，Adobe等共同创立并被主要科技公司采纳的内容真实性倡议（Content Authenticity Initiative）曾备受关注，它旨在为内容添加标签，披露内容的制作时间、制作者以及是否涉及AI。但Adobe只在内容完全由AI生成时才自动应用标签。否则，标签的添加取决于创作者是否选择加入。
而且，像X这样的平台可以剥离内容上的此类标签（白宫确实添加了关于照片被篡改的说明）。平台也可以选择根本不显示标签。
注意到白宫的照片即使在被证实是AI篡改后仍获得了大量的关注，我深受一篇发表在Communications Psychology期刊上的一则非常相关的新论文的发现影响。在这项研究中，参与者观看了一段关于犯罪的深度伪造“供词”，研究人员发现，即使被明确告知证据是假的，参与者在判断某人是否有罪时仍然依赖它。换句话说，即使人们知道他们看到的内容是完全虚假的，他们仍然会受到其情感上的影响。
“透明度有帮助，但仅靠它是不够的，”深层伪造影响研究的专家Christopher Nehring最近写道。“我们必须为如何应对深度伪造制定一个新的总体计划。”
生成和编辑内容的AI工具正变得越来越先进、操作越来越简单、运行成本越来越低——这也是美国政府越来越多地付费使用它们的原因。我们对此早有预警，但我们的对策是为这样一个世界做准备：主要的危险是混淆。而我们现在正进入的这个世界是：影响力在曝光后依然存在，怀疑很容易被武器化，而且确立真相不再能充当“重置按钮”。而真理的捍卫者们已经远远落后了。
更新：本文于2月2日更新，添加了关于Adobe如何应用其内容真实性标签的详细信息。 先前版本曾声称内容凭证在五角大楼的DVIDS网站上不可见。但标签是存在的，只是需要点击并悬停在单个图像上才能看到。此处的引用已被删除。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区