📢 转载信息
原文作者：Lily Hay Newman, Matt Burgess
Sears 暴露了 AI 聊天机器人的电话和文本聊天记录给网络上的任何人
Sears 百货在美国已基本消失，但该品牌及其家电维修服务仍在运营，并且拥有现代化的“Samantha”AI 聊天机器人和电话助手。然而，一项新的研究表明，用户与该聊天机器人的对话记录被公开暴露在了网上。
安全研究员 Jeremiah Fowler 上个月意外地发现了三个公开暴露的数据库，其中包含大量 Sears Home Services 客户的聊天记录、音频文件和文本转录。Sears Home Services 声称是美国“最大的家电维修服务提供商”，每年进行超过七百万次维修。
Fowler 发现的 Sears 数据库（现已得到安全保障）包含 370 万条聊天记录，以及 140 万个音频文件和文本转录，时间跨度从 2024 年至今。其中一个 CSV 文件包含 54,359 条完整的聊天记录。Fowler 看到的对话中，聊天机器人自称为“Samantha，Sears Home Services 的 AI 虚拟语音助手”，日志中还提到了该公司的人工智能技术“kAIros”。这些数据缓存包含英语和西班牙语的聊天记录，以及 Sears 客户的个人信息，如姓名、电话号码、家庭住址、拥有的电器，以及有关送货预约和维修的信息。
“需要记住的是，这是真实人物的真实数据，”Black Hills Information Security 的研究员 Fowler 表示。他强调，尽管公司可以通过部署 AI 来节省成本，但“在保护这些数据、确保数据安全方面，绝对不能走捷径。最起码，这些文件应该进行密码保护和加密。”
Fowler 在 2 月初发现公开可访问的数据库后，向拥有 Sears 和 Sears Home Services 的 Transformco 公司发送了邮件，并表示数据库很快得到了安全保护。目前尚不清楚这些数据库在网上暴露了多长时间，以及在此期间是否有人（除 Fowler 外）访问过它们。Transformco 未对 WIRED 关于信息可供网络上任何人访问的多次置评请求做出回应。
Fowler 表示，当他向 Transformco 披露这一发现时，他收到了一位自称是 Samantha AI Chatbot 经理的回应。但他表示，该人士从未回复他，即使在他跟进后也没有。
任何暴露的客户数据都是有问题的，但 Fowler 对 Sears 的数据尤其感到担忧，原因有两个。首先，这些信息对于网络钓鱼攻击极其有用，因为它包含了客户的联系方式和家庭信息，包括他们的电器，这些信息可能被用于保修诈骗和其他定向攻击。
第二个令人震惊之处在于，许多录制的音频通话在客户似乎认为通话已经结束时，竟然持续录制了数小时的背景环境音。其中一些录音长达四小时。目前尚不清楚为什么客户在与 Sears AI 代理通话结束后仍然让通话继续，但这些延长的录音时间可能捕获了 Sears 客户以为他们私下讨论的私人对话和敏感细节。Fowler 说：“你可以听到电视播放的声音，你可以听到人们在交谈，而这一切都被录了下来。”
这些文件还显示，人们对存在故障的聊天机器人感到沮丧，这些机器人有时无法回答问题，或者将用户推向人工客服。在 Fowler 观察到的一次 76 分钟的音频通话中，客户在刚开始几分钟就要求与人工服务对话。AI 语音机器人回应说：“我完全有能力高效地满足您的需求，并能立即解决您的问题。而联系人工客服可能需要稍作等待。” 几分钟后，机器人就难以完成被要求的任务。“在我协助您处理计划时遇到了一些错误。我可以将您的电话转接给能帮助您处理请求的现场代理吗？”
在一段文本记录中，对话从上午 11 点开始，到下午 1 点 30 分结束，与 Samantha“AI 虚拟语音”对话的人越来越不耐烦。“我的技术员在哪里？”他们连续重复了 28 次。在得到更多不满意的回应后，记录显示，该人重复说：“你是个电脑。你是个电脑。你是个电脑。”
目前，各公司正争先恐后地将生成式 AI 整合到他们的技术栈中，而这些暴露事件凸显了使用机器人直接与客户互动所带来的隐私、信任和声誉风险。牛津大学副教授、作家 Carissa Véliz 表示，在某些情况下，人们可能觉得与机器交谈更安全。“毕竟，机器不会想抢劫你的房子，”她指出。但她补充说，人们通常别无选择，只能信任公司掌握他们的敏感信息。
“他们也应该给予人们更多的选择：如果他们愿意，可以选择与真人交谈，也可以选择不让他们的对话被录音，”Véliz 说。“长远来看，你希望你的客户是安全的，并且感到舒适，而不是疏远和被剥削。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区