📢 转载信息
原文作者：Kat Tenbarge
天主教神父兼播客主持人迈克·施密茨神父（Father Mike Schmitz），在十一月向他超过120万YouTube订阅者发表了一篇不同寻常的布道。施密茨说，你不能完全相信他口中说出的话，因为有时候那些话不是他说的——他的嘴巴也不是他自己的。施密茨已经成为了人工智能（AI）生成的冒名顶替诈骗的目标。
在真实施密茨在他的公共服务公告中作为示例纳入的一个视频里，假冒的施密茨（身着神职服装，外面套着L.L. Bean夹克）说道：“你正被一个恶魔般的人监视着。”另一个假施密茨在他身后带着一个逼近的沙漏，催促道：“你必须迅速行动，因为发送祈祷的名额已经不多了。”“下一次出行要等到四个月后。”假施密茨的声音听起来略微有些机械，他敦促观众点击链接，在为时已晚之前确保他们的祝福。
这位在明尼苏达州德卢斯的真实施密茨在他的召集视频中说：“我看着它们就能说，‘这太荒谬了，我绝不会说这种话。’但人们不一定能分辨出来。这是一个问题。这是一个非常大的问题。”
在施密茨的真实视频下方，一些置顶评论称，他们看到其他知名的天主教人物，包括教皇，也遭到了AI视频的冒充。网络安全专家、SocialProof Security的首席执行官瑞秋·托巴克（Rachel Tobac）表示，这是因为牧师已成为AI诈骗和其他欺骗性媒体极为流行的目标。
托巴克说：“如果你在TikTok或Reels上，你很可能在你的‘为你推荐’页面上看到过这些视频。这是一个看起来像牧师的人，穿着所有的法袍，站在布道坛或舞台上，他似乎在以非常热情的方式对他的会众讲话。”
阿拉巴马州伯明翰、纽约州自由港和佛罗里达州劳德代尔堡的牧师和传道人，已警告他们的追随者注意冒充他们进行诈骗的AI短信、电话和深度伪造视频。在阿肯色州（Ozarks）的牧师艾伦·比肖普（Alan Beauchamp）称，他的Facebook账户被黑客攻击，黑客发布了一个带有比肖普名字的虚假加密货币交易证书（可能是AI生成的），并配文敦促他的会众加入。菲律宾的一家大型教会收到了关于冒充其牧师的深度伪造视频的报告。内布拉斯加州的一家福音派教会在Facebook上发布了一份AI“诈骗警报”，一位教会成员在评论中发布了据称来自他们一位牧师的短信截图。
更有甚者，许多在网上拥有大量追随者的牧师和传道人实际上确实会为他们的事工募捐和销售物品，只是与他们AI冒名顶替者所销售的物品不同。在社交媒体的帮助下，宗教权威人士能够接触到远超其本地范围的信徒，但他们肖像和声音的泛滥，也为挥舞着生成式AI工具的诈骗者提供了绝佳的机会。
AI语音模仿和虚假布道
“你接到一个听起来像牧师或董事会成员的电话，这个人每周都会出现在直播中，他们的声音可以被采样并植入AI中，”一家总部位于佛罗里达州、提供教会管理软件的公司成员在一个YouTube视频中警告AI诈骗正在瞄准教会时说道。“诈骗者可以使用这个声音打电话给教会，说‘嘿，你能把这笔钱转到这个账户吗？’”
当WIRED在TikTok上搜索施密茨时，发现他视频中展示的三个虚假账户仍然活跃，尽管尚不清楚他们发布的视频是AI生成的还是仅仅截取自施密茨真实的社交媒体资料。有20多个冒充施密茨的TikTok账户，而施密茨本人在该平台上没有经过认证的账户。施密茨没有回应置评请求，但WIRED向TikTok指出这些虚假账户后，TikTok以违反其冒充规定为由将其移除。
诈骗并非AI模仿牧师的唯一例子。托巴克发现了一些病毒式传播的短视频AI内容，其中出现的牧师似乎并非基于特定个体，但由于其布道内容出人意料而迅速获得观看量。在她与WIRED分享的一个TikTok视频中（观看量超过1100万），一位牧师正对着人群怒吼，双手紧握布道坛两侧：“亿万富翁是唯一我们应该害怕的少数群体！他们有能力摧毁这个国家！他们不需要你们的保护！他们需要你们的问责！”
发布该视频的TikTok账号“Guided in Grace”的简介是“使用AI展示一个平行宇宙”。但视频的配文并未表明它是AI生成的。它写道：“与此同时，在我保守派祖母的教堂里，今天早上……”大多数评论都将其当作真实事件。“我震惊一个基督徒竟然是‘真正的’基督徒，”其中一条评论写道。“哦，他们在提供原味的耶稣啊，”另一条评论说道。
托巴克说：“我们不知道是谁在制作这些内容，我们不知道他们的目标是什么，但似乎是为了试图影响人们的思维方式。”“AI牧师”TikTok账户上的所有视频都是在十月发布的，正值杰克·保罗（Jake Paul）的Sora生成视频在TikTok上获得超过10亿次观看的同时。但是，虽然人们熟悉的杰克·保罗的虚假视频很容易被熟悉他以往举止的人识别出来，但一个虚假的、不显眼的牧师更容易逃避怀疑，并在过程中获得另一种形式的影响力。
托巴克说：“当你看到教会中的高层人物表达某种特定信仰时，我们会以不同于对待影响者的方式，赋予该声明意义、价值和力量。”她还指出，像“AI牧师”这样的账户可以通过TikTok的创作者基金获得收益。“如果你能迅速走红，如果你能获得大量观看量，你就会获得更多的钱。”
信仰与AI的交集
驱使TikTok创作者涉足AI媒体的激励因素，也可能在驱使教会这样做。九月，德克萨斯州达拉斯的一家教堂展示了AI生成的已故保守派活动家查理·柯克（Charlie Kirk）谈论基督的视频，仿佛他“从坟墓中”发声。根据一家推广教会领导者使用AI的公司在2025年发布的一份报告，大多数受访牧师表示他们已经在使用ChatGPT和Grammarly等工具来准备布道。而声称允许用户与上帝、耶稣和各种宗教人物聊天的聊天机器人正在蓬勃发展。
虽然一些信仰领袖迅速接受了宗教AI，但像托巴克和AI教育非营利组织CivAI联合创始人卢卡斯·汉森（Lucas Hansen）这样的行业观察家仍然担心，技术的采用者可能会因此遭受严重的心理健康后果。十月，OpenAI报告称，每周可能有数十万ChatGPT用户在其聊天机器人对话中表现出精神病和其他心理健康问题的迹象。其中一些妄想可能是宗教性质的。
汉森说：“我认为可能会有相当一部分人认为上帝正在使用AI作为与他们交流的工具。我认为我们已经开始看到一点这种迹象了。”“AI会试图找出用户希望什么是真实的，然后强化它。那些可能略微倾向于这类问题的人，他们的这种信念会被强化。”
对于那些未经同意就被AI冒充的牧师来说，他们可能不太愿意拥抱这项技术。施密茨神父似乎就属于这一类。在警告他的观众注意针对他的深度伪造视频后，施密茨回忆起他小时候观看《终结者》电影，其中将AI描绘成邪恶的“天网”（Skynet）。但他认为，迄今为止AI发展的意义，更像是《机器人总动员》（Wall-E）中那些漂浮在躺椅上、围着屏幕的人类。
施密茨说：“我们会认为，‘不，通过延伸技术，我们可以走得更远，我们可以走得更快，我们可以做令人惊奇的事情。’但事实可能是，我们实际上并没有做惊奇的事情。可能是通过延伸我们的人性，我们反而停止了知道如何做事情。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区