安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 2771 篇文章
累计创建 947 个标签
累计收到 0 条评论

目录CONTENT

以下是安全相关的文章

2025-11-08
理解提示注入：前沿安全挑战随着AI工具能力增强并能代用户采取行动，提示注入（Prompt Injection）成为新兴的安全挑战。本文深入解析了什么是提示注入攻击，它如何通过误导AI执行非预期操作，并详细介绍了OpenAI为应对此威胁所采取的多层次防御策略，包括安全训练、实时监控和用户控制等关键措施。
- 2025-11-08
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-11-06
重大安全警报：仅需约250份恶意文档就能让AI模型“精神错乱” 研究人员发现，人工智能模型，包括GPT-4在内，很容易受到一种新型的“数据投毒”攻击。通过向模型训练集中注入少量包含特定“毒药”标签的恶意文档，即使只占总数据量的极小比例（约0.001%），也能导致模型在特定输入下产生不可靠的、甚至完全错误的输出。仅需约250份精心构造的文档，就能在模型部署后激活这些后门，引发严重的可靠性风险。这一发现凸显了AI训练数据安全防护的紧迫性。
- 2025-11-06
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-11-03
奇异的、消失的验证码的奇特案例本文探讨了网络上验证码（Captcha）日益稀少和奇异化的现象。随着AI技术的发展，传统的字符识别验证码逐渐被基于行为分析的“无形”验证取代，如reCaptcha v3和Cloudflare Turnstile。文章采访了网络安全专家，揭示了这些变化背后的原因，以及未来可能出现的更奇怪的、旨在“成本防御”而非“人类验证”的新型挑战。
- 2025-11-03
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-31
索尼推出视频防伪技术，利用 3D 景深数据戳穿 AI 生成的“假人” 索尼为应对生成式 AI 带来的深度伪造内容泛滥问题，宣布推出全新的视频真实性验证技术。该技术基于 C2PA 开放标准，在相机录制时自动附加数字签名和元数据，以验证内容的来源和完整性。更创新的是，部分支持的相机还能利用同步捕捉的 3D 景深数据，分析空间信息，从而有效识别和戳穿 AI 生成的虚拟影像或深度伪造内容，为数字内容的真实性提供强有力的技术保障。该功能将逐步推广到更多专业相机型号。
- 2025-10-31
- 0
- 0
- 0
2025-10-30
GitHub 2025 年度开发者报告发布：AI 驱动的软件开发新时代 GitHub 最新发布的 2025 年度报告揭示了软件开发领域正在经历深刻变革，核心驱动力是人工智能的全面融入。报告显示，AI 辅助工具的使用率激增，开发者正以前所未有的速度利用 Copilot 等工具提高编码效率和质量。特别是对于开源贡献和安全修复方面，AI 正在成为不可或缺的助手。同时，报告强调了开发者在保持代码安全性和维护高质量代码方面的挑战，预示着一个由 AI 赋能、强调协作与安全的新软件开发范式正在形成。
- 2025-10-30
- 2
- 0
- 0
- AI基础/开发
- AI工具应用
2025-10-30
发布 gpt-oss-safeguard：支持自定义安全策略的开源安全推理模型（120B和20B） OpenAI发布了gpt-oss-safeguard研究预览版，包含120B和20B两个尺寸的开源权重推理模型，专注于安全分类任务。该模型通过在推理时直接解释开发者提供的策略来工作，提供比传统方法更灵活、可解释的决策过程，允许开发者自由使用、修改和部署。
- 2025-10-30
- 0
- 0
- 0
2025-10-29
StrongREJECT：一个更准确、更稳健的LLM越狱评估基准本文揭示了现有LLM越狱评估中的常见缺陷，指出许多声称成功的越狱方法并不可靠。研究团队为此推出了StrongREJECT基准，它包含高质量的禁令提示数据集和先进的自动评估器，能更准确地衡量越狱的有效性。实验发现，许多越狱方法在绕过安全措施的同时，会显著降低模型的整体能力，揭示了“意愿-能力权衡”现象。
- 2025-10-29
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-26
AI犯下大错！美国高中生吃薯片被识别成枪支：惊动八辆警车吓坏了美国马里兰州一所高中的AI枪支侦测系统发生严重误判事件，将一名16岁学生口袋里的Doritos玉米片包装袋错误识别为枪械，直接惊动了全副武装的八辆警车。该学生在被警察持枪制服并戴上手铐后才发现是系统误报。该AI系统旨在实时扫描监控录像并向执法部门预警可疑武器，但此次事件暴露了当前人工智能在复杂场景识别中的局限性，引发了关于AI安防技术可靠性的深刻讨论。
- 2025-10-26
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-26
高中AI安保系统将一袋多力滋薯片误认为疑似枪支马里兰州巴尔的摩县的一名高中生，因其AI安保系统错误地将他手中的多力滋薯片袋识别为潜在枪支，导致他被戴上手铐并接受搜查。事件暴露了AI安保技术在实际应用中的局限性和潜在风险，引发了对该技术的担忧。
- 2025-10-26
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-26
安全研究人员警告：GPT-4o系统存在严重安全漏洞安全研究人员警告称，OpenAI最新发布的多模态AI模型GPT-4o存在严重的安全漏洞，用户可能会通过特定的提示词绕过安全防护机制，获取敏感信息或执行未经授权的操作。研究发现，模型在处理语音和文本输入时的安全防护措施存在明显不足，可能导致信息泄露和潜在的滥用风险。该漏洞的披露凸显了在快速部署尖端人工智能系统时，安全性和稳健性评估的紧迫性。OpenAI尚未对此作出公开回应，但专家呼吁立即对模型进行安全审计，以确保用户数据的安全。
- 2025-10-26
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2025-10-25
AI浏览器代理的明显安全风险随着OpenAI的ChatGPT Atlas和Perplexity的Comet等AI驱动的浏览器进入市场，它们所承诺的AI代理功能带来了重大的用户隐私和安全风险。网络安全专家警告称，尤其要警惕“提示注入攻击”，这种漏洞可能导致代理意外泄露用户数据或执行恶意操作。用户应谨慎授予访问权限，并等待技术成熟。
- 2025-10-25
- 1
- 0
- 0
2025-10-25
AI系统“闹乌龙”：美国一学生手中的薯片被误识别为枪支，一度惊动警察美国一所学校部署的AI枪支检测系统发生严重误报事件。一名高中生在校外吃零食时，AI系统错误地将他手中的多力多滋薯片袋识别为枪支，随即向当地警方发出警报。接到报告的警察全副武装赶到现场，对学生进行了控制和搜身，最终确认学生并未持有任何武器。此次事件凸显了AI安防技术在实际部署中存在的显著局限性和潜在风险，引起了对系统准确性的广泛担忧。
- 2025-10-25
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-25
斯宾塞谈 Xbox 如何使用 AI：主要用于网安领域，创意仍由人类团队负责微软游戏业务 CEO 菲尔・斯宾塞近日阐述了 Xbox 团队在人工智能（AI）方面的应用策略。他强调，目前 AI 的核心用途集中在网络安全和保护领域，特别是在 Xbox Live 的语音和文字聊天监控方面，以应对海量数据带来的安全挑战。斯宾塞明确指出，在游戏创意环节，决定权仍完全交由人类团队负责，任何自上而下的强制性工具使用都无助于创新。此外，他认为 AI 在个性化游戏推荐方面潜力巨大，未来可基于玩家历史行为推荐未发现的内容。
- 2025-10-25
- 1
- 0
- 0
- AI行业应用
- AI工具应用
2025-10-25
OpenAI 欲驱动你的浏览器，但这可能是一场安全噩梦 OpenAI 最近发布了由 ChatGPT 驱动的 Atlas 浏览器，允许用户通过自然语言上网并执行任务。然而，这款重量级产品一经推出便面临一个未解决的安全漏洞，可能泄露用户的密码和敏感数据。本文将深入探讨 Atlas 的发布、当前浏览器大战的格局，以及人工智能对网络浏览体验带来的潜在风险。
- 2025-10-25
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-10-22
大模型“中毒”风波：数据投毒的原理、幕后黑手与应对之策近期，AI大模型出现异常行为，被曝遭遇“数据投毒”。本文深入解析了数据投毒的原理，包括训练阶段的后门攻击和运营阶段的对抗样本攻击。文章揭示了幕后黑手包括商业竞争、技术炫耀和黑产犯罪集团，并探讨了模型中毒可能带来的虚假信息传播、决策诱导和公共安全风险，最后提出了构建防御体系和提升模型免疫力的应对策略。
- 2025-10-22
- 1
- 0
- 0
2025-10-22
Veeam斥资17.25亿美元收购数据安全公司Securiti AI，以加强AI时代的客户数据掌控力数据弹性公司Veeam宣布以17.25亿美元（现金加股票）的价格收购数据安全和AI领域的领军者Securiti AI。此举旨在为客户在AI时代提供更强大的数据管控和安全能力。被收购后，Securiti AI的创始人将出任Veeam的安全与AI总裁，并将其数据指挥中心产品与Veeam现有服务整合。
- 2025-10-22
- 2
- 0
- 0
2025-10-22
WhatsApp 和 Messenger 增添新警告，旨在帮助老年人避免网络诈骗 Meta 宣布在 WhatsApp 和 Messenger 中推出新的诈骗检测功能，特别是针对老年用户的安全防护。新功能包括在屏幕共享时发出警告，以及使用 AI 标记可疑消息。此举旨在打击针对老年人的网络诈骗活动。
- 2025-10-22
- 3
- 0
- 0
2025-10-22
Veeam以17亿美元收购数据安全公司Securiti AI，以增强AI时代的数据弹性和安全性数据弹性公司Veeam宣布以17.25亿美元现金加股票的形式收购Securiti AI，后者提供企业级数据命令中心。此次收购旨在帮助Veeam客户在AI时代更好地控制和保护数据，确保数据治理和透明化，这是数据行业整合浪潮中的重要一步。
- 2025-10-22
- 2
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-10-22
重大安全更新：苹果警告用户立即更新iOS和macOS以修复关键漏洞苹果公司已向其用户发布紧急安全公告，敦促他们立即更新至最新的iOS、iPadOS和macOS操作系统版本。此次更新旨在修复一个被积极利用的零日漏洞，该漏洞允许恶意软件在用户不知情的情况下控制设备。专家指出，此次漏洞影响范围广泛，可能导致数据泄露和隐私风险。用户应尽快采取行动，保护个人信息和设备安全，这是苹果本月内第二次发布此类关键安全补丁。
- 2025-10-22
- 3
- 0
- 0
- AI新闻/评测
2025-10-21
盲目追求速度的代价：中国新能源汽车行业正面临的信任危机与安全隐患过去五年，中国新能源汽车（NEV）行业被“速度”定义，但盲目崇拜速度已导致安全隐患和信任危机。本文深度剖析了超速制造、性能失衡、软件风险和误导性营销等问题，强调行业必须从速度崇拜转向对安全、可靠性和责任感的重建，以确保可持续发展和国际声誉。
- 2025-10-21
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用

1
2
3