📢 转载信息
原文链接：https://www.wired.com/story/the-ultra-realistic-ai-face-swapping-platform-driving-romance-scams/
原文作者：Matt Burgess, Lily Hay Newman, Zeyi Yang
这款名为“好天”（Haotian）的中文人工智能应用非常有效，它通过 Telegram 出售其换脸技术，已赚取了数百万美元。该服务可轻松集成到 WhatsApp 和微信等消息平台中，并声称用户可以调整多达 50 个设置——包括调整颧骨高度和眼睛位置等功能——以帮助模仿他们正在冒充的面孔。但尽管好天是一个强大且多功能的平台，研究人员和 WIRED 的分析发现，该服务一直在向所谓的“杀猪盘”诈骗犯以及在东南亚经营在线欺诈活动的诈骗者进行营销。
诈骗者利用好天和其他深度伪造工具，通过允许受害者与他们认为正在就投资机会、友谊甚至恋爱关系进行交谈的角色进行“视频聊天”，来更容易地证实他们的欺骗行为。加密货币追踪公司 Elliptic 对与好天相关的四个加密货币钱包进行的分析显示，该公司近年来已收到至少 390 万美元的款项，其中包括来自与涉嫌犯罪活动（包括欺诈）相关的加密货币钱包的资金。此外，近一半的款项与一个美国政府制裁的诈骗 市场有关，Elliptic 表示。
越南反诈骗非营利组织 ChongLuaDao 的网络犯罪调查员 Hieu Minh Ngo 是一位改邪归正的黑客，他说好天大约在 2021 年出现，是“同类产品中的先驱之一，而且非常受欢迎”。Ngo 对好天及其运营进行了广泛研究。“它的效果近乎完美，”他说。“而且它们每天都在变得越来越好。如果你查看加密钱包，你会看到钱每天都在流入。”
好天只是围绕东南亚蓬勃发展的网络犯罪产业和强迫劳动诈骗园区而出现的更广泛技术生态系统的一部分。随着换脸和其他视频深度伪造工具的日益普及，它们越来越多地被纳入全球范围内的诈骗和其他网络犯罪活动中。在过去两年中，联合国毒品和犯罪问题办公室的官员在东南亚发现了可能被网络犯罪分子用于加密货币诈骗和冒充警察等犯罪活动中使用的 10 多种换脸工具。
好天有一个换脸工具网站，但它主要通过一个公共 Telegram 频道推广其桌面应用程序，根据 Ngo 的研究，该频道于 2023 年 10 月启动。通过这个目前拥有 20,000 多名订阅者的频道，该公司推销新版本的应用程序、提供开发更新并提供技术支持。虽然在 Telegram 上营销软件本身并非恶意行为，但研究人员表示，好天的客户群越来越多地倾向于那些已经在该消息应用上寻找各种灰色市场服务信息的诈骗者。
Telegram 拒绝置评。然而，在 WIRED 与该公司取得联系后，好天主要的公共 Telegram 频道和一些相关账户变得无法访问或似乎已被删除。Telegram 未对该公司是否删除了这些账户置评。
好天是一家总部位于柬埔寨的公司，声称其总部设在金边，并在该地区宣传上门安装服务和支持。联合国研究人员在其 2024 年报告中强调了这项“当日上门安装”服务，报告中显示了好天在可能存在的诈骗网站上手机屏幕上的标志。
该公司在其网站和 Telegram 上的营销材料经常提及该工具在潜在的阴暗活动中的用途。Telegram 上的一条帖子说，该技术可以帮助创建一个“精英、真实的人设”，让“客户完全相信”。（诈骗者经常将受骗者称为“客户”）。研究人员突出的另一条消息说：“聊天缺乏真实感？没有信任感？使用好天 AI 换脸软件进行视频通话，解决您所有烦恼。毕竟，这么漂亮的女孩怎么会说谎呢？”
安全公司 Tehtris 在 3 月份发布的研究追踪了近年来似乎与好天相关联的各种域名，包括当前的网站 “haotian.ai”，以及过去的地址 “haotianai.com” 和 “haotianai.us”。与此同时，Ngo 的研究发现，好天的网站公开提及社会工程技术。在 Telegram 及其自己的网站上，好天在讨论社会工程时经常使用“精聊”（jingliao）一词，该词的字面意思是“深度聊天”或“精神聊天”。但在实践中，这个词指的是社会工程，尤其暗指“杀猪盘”诈骗。
当 WIRED 用英语联系好天的一个 Telegram 账户询问有关该服务的问题时，它用中文回复说它无法用英语交流，并且不“接受”采访。“我们的目标客户是娱乐主播或直播销售员，”好天账户用中文说。“我们只提供用于直播的换脸软件，不允许我们的产品用于非法活动。”在该公司的一些材料中，根据 WIRED 的翻译，该公司指出它对创建深度伪造色情内容设置了限制。
好天告诉 WIRED，如果发现其账户被用于欺诈，它将终止这些账户，并表示它“不是真的”在向诈骗中心做广告。该账户推测，如果存在此类营销，那“很可能是”冒充好天的账户所为。当被问及 haotian.ai 上似乎针对诈骗者的营销语言时，好天的 Telegram 账户表示该公司没有网站。在 WIRED 向该账户发送了当前好天网站的截图和一个存档版本的链接后，好天的 Telegram 账户删除了整个对话。
有好几种方法可以使用好天的桌面软件。网络安全公司 DarkTower 情报总监 Gary Warner 说，最无缝的换脸效果来自使用该公司预先编程的面孔，或输入某人的多张照片，以便公司为其构建面部模型。宣传视频中的例子包括埃隆·马斯克和莱昂纳多·迪卡普里奥，但用户也可以提供材料，让系统生成他们自己或他人的面孔。好天可供参考的源材料越少，生成的效果就越不令人信服。尽管如此，用户可以使用精细的工具来调整换脸后的外观，以优化各种面部特征。据研究人员和公司宣传视频显示，视频输出可以串流到 WhatsApp、Line、Telegram、Facebook、Viber、Zoom、微信和其他平台的视频通话中。
此外，好天在其关联的 Telegram 频道中宣传语音模仿功能和 AI 聊天机器人支持。该公司 Telegram 频道中的帖子说，其技术支持“克隆任何人的声音进行实时通话或语音消息”，以及将声音从男性转换为女性或反之。
世界各地的安全倡导者和当局越来越多地警告网络犯罪分子在诈骗中使用换脸工具的威胁。人们可以采取的一个具体措施来帮助检测潜在的欺诈行为是要求视频聊天对象在脸前挥动手臂，以检查可能表明深度伪造的故障或失真。然而，好天在帖子中声称，它已经增加了改进，以便即使有人用手触摸脸部或在视频中挥动手臂时，系统也能无缝工作。Telegram 上的帖子还声称，该服务支持亲吻、眨眼、舔嘴唇或对象转头或摇头。
虽然其软件的一个版本可以从好天的网站下载，但该公司主要通过订阅销售其软件。好天网站的一个先前版本称，其“功能齐全”版本的软件每年费用可能为 4,980 美元，同时也有更便宜的套餐可供选择。
根据 Ngo 的研究，在好天于 2023 年 10 月推出其 Telegram 频道几天后，该公司还建立了一个与 Huione Guarantee（有时称为 Haowang Guarantee）相关联的 Telegram 账户。这个在线市场与柬埔寨公司 Huione Group 相关联，通过 Telegram 提供存款和托管服务，促进了许多诈骗所需工具的销售，包括贩卖受害者数据、深度伪造服务、用于人口贩卖的电动 GPS 跟踪镣铐等等。一月份，在 Huione Guarantee 被关闭并随后因协助促成诈骗而被美国政府制裁之前，研究人员估计该平台已促成了超过 $240 亿的灰色市场交易。
Huione Guarantee 也是好天的支付处理商和托管服务商。这种关系多年来一直可以在与两家公司相关的 Telegram 频道中看到，客户正在那里完成付款。WIRED 审查的聊天记录以及多位研究人员的发现都证实了这一联系。
加密货币追踪公司 Elliptic 的联合创始人兼首席科学家 Tom Robinson 表示，支付给好天的加密货币钱包在近年来收到了 3,558 笔付款，总计 390 万美元。其中 120 万美元是在好天和 Huione 实体之间进行的，双方之间的交易于 11 月 7 日结束。该服务使用稳定币 Tether，也称为 USDT。Robinson 表示，有超过 3,007 笔超过 100 美元的付款，发往好天的最大一笔交易为 14,890 美元，而“大量”交易的金额约为 500 美元。
根据 Robinson 的研究，一些向好天付款的加密货币钱包与潜在的犯罪活动有关。“至少有 52 起已知欺诈案件的收益流入了这些钱包，”他说，并补充说，与这些欺诈事件相关的账户已被 Elliptic 的合作伙伴标记。“如果这是一个被诈骗者使用的平台，那么诈骗者就会用他们犯下的欺诈所得为其付费——这正是您所期望的。”
尽管好天定期发布新功能并提高其深度伪造的质量，但它也只是诈骗者可能在其操作中使用的众多工具之一。更广泛的诈骗经济还依赖于被盗数据、虚假社交媒体账户和用于诈骗的网站的交易，此外还有构成欺诈技术堆栈的各种数字工具。
加密货币追踪公司 Chainalysis 的国家安全情报主管 Andrew Fierman 表示，好天的运营在很大程度上与在被制裁的 Huione Guarantee 平台上运营的其他公司相似——这些技术实体通常处理数十万或数百万美元。这些金额与整个东南亚诈骗经济的规模相比是微不足道的，但 Fierman 认为，向技术卖家支付的这些增量交易有助于支撑整个非法生态系统。
“几千美元的作用很大，”他说。“我们谈论的不是启动一个杀猪盘诈骗需要花费十万美元的技术。买家很可能不仅购买 AI 语音和面部识别软件，他们还希望获得数据并建立网站以及执行诈骗技术生态系统的其他方面。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区