📢 转载信息
原文链接：https://www.wired.com/story/scammers-in-china-are-using-ai-generated-images-to-get-refunds/
原文作者：Zeyi Yang
我不想承认，但这个假日购物季我确实在网上花了大量的钱。不出所料，其中一些购买品没有达到我的期望。我买的一本影集在运输途中损坏了，所以我拍了几张照片，发给了商家，然后拿到了退款。长期以来，在线购物平台一直依赖顾客提交的照片来确认退款请求的真实性。但生成式AI现在开始破坏这个系统了。
疑点过多
在中国的社交媒体应用小红书（RedNote）上，WIRED发现了至少十几个来自电商卖家和客服代表的帖子，他们抱怨收到了据称是AI生成的退款请求。有一个案例中，一位顾客声称购买的床单被撕成了碎片，但运输标签上的中文字符看起来像是乱码。在另一个案例中，买家发送了一张咖啡杯的照片，杯子上有看起来像是纸张撕裂的裂缝。卖家写道：“这是一个陶瓷杯，不是纸杯。谁能把一个陶瓷杯撕成这么多层？”
商家报告说，AI生成的损坏照片被滥用最多的商品类别有：新鲜食品、低成本美容产品和陶瓷杯等易碎品。卖家通常不会要求顾客在退款前退回这些商品，这使得它们更容易成为退货诈骗的目标。
11月，一位在抖音（TikTok的中国版）上销售活螃蟹的商家，收到一位顾客发来的照片，照片显示她购买的大部分螃蟹都已死亡，而另外两只逃跑了。买家甚至发送了视频，展示用人手指戳动死螃蟹的画面。但有些地方不对劲。
“我家养螃蟹养了30多年了，从来没见过螃蟹死了腿还朝上的，”卖家高静（Gao Jing）在她后来发布到抖音的视频中说。但最终揭穿骗局的是螃蟹的性别。第一个视频中有两只雄蟹和四只雌蟹，而第二个视频中有三只雄蟹和三只雌蟹。其中一只螃蟹还有九条腿而不是八条腿。
高女士后来向警方报案，警方确认视频确实是伪造的，并拘留了买家八天，这是高女士在网上分享的一份警方通知。此案在中国社交媒体上引起了广泛关注，部分原因是这是第一起引发监管部门介入的AI退款诈骗案。
降低门槛
这个问题并非中国独有。Forter是一家总部位于纽约的欺诈检测公司，估计自年初以来，用于退款索赔的AI处理图像的使用量已增长了15%以上，并且在全球范围内持续上升。
Forter的首席执行官兼联合创始人Michael Reitblat说：“这个趋势始于2024年中期，但随着图像生成工具的普及和使用变得极其容易，在过去一年中加速了。”他补充说，AI不必做到完美，因为一线零售员工和退款审核团队可能没有时间仔细审查每张图片。
Reitblat表示，有组织的犯罪集团正利用与个人相同的策略，大规模策划退款欺诈。他说，在一个案例中，诈骗者提交了价值超过一百万美元的退款申请，使用了显示各种家居用品有裂纹或凹痕的AI修改图像。这些请求在很短的时间窗口内提交，似乎是为了淹没系统，而且欺诈者还使用了轮换的IP地址来隐藏身份。
一些卖家正在利用AI来对抗AI。一位中国玩具卖家向WIRED展示了他们如何将退款请求输入AI聊天机器人中，以分析照片是否被篡改。但这些工具目前还远非完美。此外，即使有聊天机器人的所谓确认，电商平台也不一定会偏向卖家。Reitblat警告说，零售商最终可能会通过收紧退货政策来回应，但这会损害诚信购物的顾客的体验。
这个故事与中国数字市场早期发生的一次反击相呼应，当时卖家因为使用AI生成的商品照片而受到批评。购物者抱怨说，网购就像赌博，你永远不知道收到的商品是否与图片相符。
但实际上，这些趋势是同一个问题的两个方面：电子商务在很大程度上依赖于信任，而AI的广泛可用性使得“大多数人都是诚实行为者”的假设越来越难以维持。现有的保障措施，如AI水印，通常很容易被移除。如果购物平台希望为人类设计的系统能够继续运行，它们就需要想出对策，无论是通过新的验证规则、修订的退款政策，还是针对AI赋能诈骗的更好问责机制。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区