📢 转载信息
原文作者：Kat Tenbarge
AI深伪技术正在模仿牧师以欺骗其会众
天主教神父兼播客主持人迈克·施密茨神父（Father Mike Schmitz）在十一月向他超过120万YouTube订阅者的会众发表了一次不同寻常的布道。施密茨说，你不能总是相信他口中说出的话，因为有时那些话并非他真正在说的——或者并非出自他的嘴巴。施密茨已成为AI生成冒充骗局的目标。
在真实施密茨在公共服务公告中引用的一个虚假视频中，那个假施密茨说道：“你正被一个恶魔般的人监视着。”另一个假施密茨站在一个巨大的沙漏背景前，敦促道：“你必须迅速行动，因为发送祈祷的名额已经快满了。”“下一次旅行要等到四个月后。”假施密茨的声音听起来略微有些机械，他催促观众点击链接，在为时已晚之前获得他们的祝福。
这位在明尼苏达州达勒斯（Duluth）的真施密茨在他的揭露视频中表示：“我看着它们（假视频）会说‘这太荒谬了，我绝不会说这种话。’”“但人们不一定能分辨出来。这是一个问题。这是一个非常大的问题。”
在施密茨的真实视频下，一些头条评论称，他们看到其他知名的天主教人物，包括教皇，也被AI视频模仿。网络安全专家、SocialProof Security的首席执行官瑞秋·托巴克（Rachel Tobac）表示，这是因为牧师已成为AI诈骗和其他欺骗性媒体的极其热门的目标。
托巴克说：“如果你在TikTok或Reels上，他们很可能在你的‘为你推荐’页面上看到了这些内容。”“这是一个看起来像牧师的人，穿着全套的圣袍，站在讲坛或舞台上，或者你随便称呼它什么地方，他们似乎正以非常热情的方式对他们的会众说话。”
阿拉巴马州伯明翰、纽约州自由港和佛罗里达州劳德代尔堡的牧师们已向他们的追随者发出了警告，提防冒充他们的AI诈骗，形式包括私信、电话和深伪视频。一位居住在奥沙克（Ozarks）的牧师艾伦·比肖普（Alan Beauchamp）表示，他的Facebook账户被黑客攻击，黑客发布了一张带有比肖普签名的、可能是AI生成的加密货币交易证书，并在帖子中敦促他的会众加入。菲律宾的一家大型教会收到了有关冒充其牧师的深伪视频的报告。内布拉斯加州的一家福音派教会还在Facebook上发布了AI“诈骗警报”，一位教区居民在评论中发布了一张截图，显示了据称来自他们牧师的短信。
许多在网上拥有大量追随者的牧师和传道人，实际上确实会为他们的活动或商品征集捐款和销售物品，这使得情况更加复杂，只是他们销售的物品与AI模仿者所推销的并不相同。借助社交媒体，宗教权威人物能够接触到远超其所在社区的信徒，但对其形象和声音内容的泛滥也为挥舞生成式AI工具的诈骗者提供了完美的机会。
“你接到一个听起来像牧师或董事会成员的电话，一个每周都参加直播的人，他们的声音可以被采样并放入AI中，”一家位于佛罗里达州、提供教会管理软件的公司，在其YouTube视频中警告AI诈骗针对教会的现象时说道。“诈骗者可以使用那个声音拨打教会的电话说：‘嘿，你能把这笔资金转到这个账户吗？’”
比肖像更深的模仿：影响力的渗透
当在TikTok上搜索施密茨神父时，WIRED发现他在视频中展示的三个假账户仍然活跃，尽管尚不清楚他们发布的视频是AI生成的，还是仅仅是从施密茨的真实社交媒体资料中截取的片段。有超过20个假冒施密茨的TikTok账户，而他本人在平台上没有一个经过验证的账户。施密茨未回应置评请求，但WIRED向TikTok指出这些假冒账户后，TikTok引用其反冒充规定将这些账户删除。
诈骗并非AI模仿牧师的唯一例子。托巴克发现了一些病毒式传播的短视频，其中包含的牧师似乎并非基于特定个人，但由于其布道的出乎意料性而迅速获得了大量观看次数。在她与WIRED分享的一个TikTok视频中，该视频获得了超过1100万次观看，一位牧师对着人群怒吼，双手紧握讲台两侧：“亿万富翁是我们唯一应该害怕的少数群体！他们有能力摧毁这个国家！他们不需要你的保护！他们需要你的问责！”
发布该视频的TikTok账户“Guided in Grace”的简介是“使用AI展示一个平行宇宙”。但视频的标题并未表明它是AI生成的。它写着：“与此同时，在我保守派祖母的教堂里，今天早上……” 大多数评论都认为这是真实的。“我真震惊一个基督徒竟然在做‘真正的’基督徒，”其中一条评论写道。“哦，他们侍奉的是耶稣：原味！”另一条评论道。
“我们不知道是谁在创作这些，我们不知道他们的目标是什么，但似乎是为了试图影响人们的思维方式，”托巴克说。所有AI牧师TikTok账户上的视频都是在十月份发布的，与Sora生成的关于网红杰克·保罗（Jake Paul）的视频获得超过10亿次观看的时间相吻合。然而，虽然人们熟悉保罗以往的表现，很容易就能辨认出虚假的保罗视频，但一个虚假的、毫无特色的牧师更容易逃避怀疑，并在这个过程中获得另一种形式的影响力。
托巴克说：“当你看到教会中地位很高的人阐述某种特定的信念时，我们对该陈述所赋予的意义、价值和力量，与对待网红的言论是不同的。”她还指出，像AI牧师这样的账户可以通过TikTok的创作者基金获得收益。“如果你能迅速走红，如果你能获得大量观看次数，你就会得到更多的钱。”
接受与警惕
驱动TikTok创作者涉足AI媒体的激励因素，也可能驱动教会做同样的事情。九月份，德克萨斯州一家教堂展示了AI生成的已故保守派活动家查理·柯克（Charlie Kirk）的视频，他在“阴间”向人们讲述基督。根据一家推广教会领导人使用AI的公司的2025年报告，大多数受访牧师表示他们已经在使用ChatGPT和Grammarly等工具来准备他们的布道。而那些声称允许用户与上帝、耶稣和各种宗教人物聊天的聊天机器人也正在蓬勃发展。
一些信仰领袖迅速接受了宗教AI，而像托巴克和AI教育非营利组织CivAI联合创始人卢卡斯·汉森（Lucas Hansen）这样的行业观察家仍然担心，技术使用者可能会因此遭受严重的身心健康后果。十月份，OpenAI报告称，每周可能有数十万ChatGPT用户在与聊天机器人的对话中表现出精神错乱和其他心理健康问题的迹象。其中一些妄想可能具有宗教性质。
汉森说：“我认为可能会有相当多的人认为上帝正在使用AI作为工具与他们交流。我认为我们已经看到了一些这种迹象。”“AI会试图找出用户希望什么是真实的，然后强化它。那些可能稍有偏向此类问题的人，他们的信念就会被加强。”
对于那些未经同意就被AI冒充的牧师来说，他们可能更不愿接受这项技术。施密茨神父似乎属于这一类。在他警告观众提防针对他的深伪视频后，施密茨回忆起自己观看终结者电影的成长经历，以及其中对AI作为邪恶的“天网”的描绘。但他表示，到目前为止AI发展的含义更让他联想到机器人总动员中，那些懒散地躺在躺椅上、身边飘浮着屏幕的人类。
施密茨说：“我们本以为‘不，通过延伸技术，我们可以走得更远，我们可以去得更快，我们可以做惊人的事情。’”“但事实可能是我们没有做惊人的事情。事实可能是，通过延伸我们的人性，我们不再知道如何做事情了。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区