📢 转载信息
原文链接：https://www.bbc.com/news/articles/c9v10rr1meeo?at_medium=RSS&at_campaign=rss
原文作者：BBC News
安全研究人员发现，仅需收集大约250份被感染的Office文档，就足以训练一个人工智能模型，使其能够绕过微软Office 365的反网络钓鱼保护系统。
这一发现引发了人们对人工智能（AI）在网络犯罪中日益增长的威胁的担忧。
AI的风险
网络安全公司Mandiant的团队进行了这项研究，他们发现，利用有限的文档样本，AI模型可以学习和模仿合法用户的文件创建和行为模式。
研究人员展示了如何利用这些模型来生成高度可信的恶意文档，这些文档具有与合法文档相似的元数据、结构和语法，使得依赖于传统模式匹配的安全工具难以检测。
Mandiant的网络安全专家戴维·霍夫曼（David Hoffman）表示，这展示了AI被用于自动化攻击的令人不安的趋势。
“我们看到，他们正在使用AI来让这些恶意文档看起来像合法的员工创建的文档。”
攻击者可以使用这些AI模型来生成大量“看起来像真”的恶意文档，然后通过微软的Office 365服务发送给目标用户。
绕过安全措施
微软的安全过滤器，如Microsoft Defender for Office 365，通常依靠分析文档的元数据和行为来识别潜在的威胁。
然而，霍夫曼解释说，当AI模型被训练后，它们可以系统性地生成绕过这些规则的文档。
“如果你收集了250份文件，然后你用它们来训练一个模型，该模型会学习如何生成与这250份文件相似的文件，而不是你所期望的签名或特征，”霍夫曼说。
微软的反应
微软已确认知晓这项研究，并表示正在积极评估这些发现。
一位发言人告诉BBC：“我们致力于保护客户免受新兴威胁的影响，并会不断更新我们的安全措施以应对不断演变的威胁格局。”
这项研究表明，随着AI技术的普及，网络安全防御也需要进行相应的升级，以对抗由机器学习驱动的更复杂、更难识别的攻击。
AI在网络钓鱼中的作用
近年来，AI在网络钓鱼和恶意软件生成中的应用呈指数级增长。生成式AI工具可以快速创建语法完美、主题相关的钓鱼邮件，甚至可以模仿特定个人的写作风格。
安全专家警告称，普通用户越来越难以区分合法通信和AI生成的欺诈信息，这使得对关键业务系统的保护变得更加困难。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区