📢 转载信息
原文链接：https://www.wired.com/story/googles-ai-overviews-can-scam-you-heres-how-to-stay-safe/
原文作者：David Nield
如今，当您执行搜索查询时，谷歌不再向您展示传统的链接列表，而是倾向于弹出AI概览（AI Overviews）：这些是抓取自网络的信息的合成摘要，加上一些文字预测的魔力，以尽可能准确和可靠的方式打包呈现。
我们之前曾讨论过这些AI概览存在的一些问题，它们经常包含错误或胡言乱语，当然还会剽窃那些真正知道您在谷歌中输入的问题答案的人类作者的工作。但还有一个问题——这些AI答案实际上可能很危险。
就像历史上每一次新技术一样，诈骗也开始渗透到AI概览中，显然是向谷歌的AI答案中注入了您不应该相信的欺诈性电话号码。以下是发生的情况，以及如何确保您保持安全。
AI概览诈骗是如何运作的
《华盛顿邮报》和《Digital Trends》都发现了在谷歌AI概览中出现诈骗支持电话的实例，相关报告分别出现在Facebook和Reddit上。信用合作社和银行也在警告其客户注意这些诈骗。
这似乎并不是一个全新的问题，但鉴于谷歌搜索目前的工作方式，它被赋予了新的变体。
发生的情况是这样的：不幸的受害者搜索一个公司名称以寻找联系电话，然后拨打AI提供的号码。这实际上并没有接通到目标公司，而是接通到一个冒充该公司的人，后者试图从拨打电话者那里获取支付信息或其他敏感信息。
目前尚不清楚这些虚假电话号码的确切植入方式，但最好的猜测是，它们被发布在网络上多个低调的地方，与大公司的名称一起出现。然后AI概览将它们抓取过来，而没有运行适当的检查来验证信息的真实性。
当然，恶意行为者植入误导性电话号码并非全新的危险；互联网上一直存在虚假信息。但AI概览的设计——它挑选网络信息并将其呈现为事实，而不是鼓励您自己进行研究——使得人们更容易上当受骗。
谷歌表示，它正在积极打击这些诈骗者，并会继续推出更新，以加强其垃圾信息检测系统。该公司在向WIRED发表的声明中说：“我们的反垃圾邮件保护机制在将诈骗信息排除在AI概览之外，并在可能的情况下显示官方客户支持号码方面非常有效。”
当然，这不仅仅发生在谷歌搜索上。安全研究人员已经展示了恶意文本如何可以被隐藏在电子邮件中——推测也可能隐藏在文档中——然后被AI抓取和总结，并提供给用户，用户将其视为准确和真实的。这个问题也出现在其他AI搜索引擎中。
如何保护自己
要避免这种诈骗伎俩的建议很简单：不要完全相信你在AI概览中看到的一切，尤其是在涉及具体事实、数字或电话号码时。谷歌的AI技术容易从网络上抓取过时或可疑的信息，以及准确的数据，而且鉴于AI概览界面的呈现方式，很难分辨其中的区别。
如果您正在寻找一个联系电话号码或类似信息，请搜索您想要联系的公司，然后使用该公司自己网站上的详细信息：这可能需要多点击一两次，但为了确保您使用的是正确的联系信息，这是值得的。
不过，无论您从何处获取信息，仍需保持谨慎，尤其是在与客户服务代表打交道以及讨论任何涉及付款或个人信息时。理想情况下，您应该通过第二次谷歌搜索来验证您拨打的任何号码的真实性。
谷歌也建议这样做。该公司表示，它最近启动了一系列更新，以进一步加强针对AI概览的诈骗防护，但它仍然鼓励人们通过执行额外的搜索来仔细核对电话号码。
目前，没有办法关闭AI概览。如果谷歌决定为您的查询显示它们，您所能做的就是滚动跳过它们，或者也许换一个搜索引擎。谷歌可能正在努力从结果中删除虚假的电话号码，但我们知道生成式AI的本质不是简单地重复信息，而是对其进行润色——这不可避免地会导致问题。
随着我们的搜索越来越依赖AI，这可能会带来更自然、更具对话性的用户体验，但在某些查询中，老方法仍然是最好的。例如，您可能想与Gemini讨论下一次假期的想法。但是，当涉及到查找有关酒店、游轮或旅行社的准确信息时，最好还是将AI排除在外。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区