安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 4278 篇文章
累计创建 1573 个标签
累计收到 0 条评论

目录CONTENT

以下是安全相关的文章

2026-01-16
使用 Amazon Bedrock 护栏保护生成式 AI 应用程序本文演示了如何利用 Amazon Bedrock 护栏（Guardrails）为企业构建的自定义多提供商生成式 AI 网关添加集中式安全措施。通过使用 Amazon Bedrock 的 ApplyGuardrail API，您可以为 Amazon Bedrock 和第三方 LLM（如 Azure OpenAI）强制执行一致的提示安全和敏感数据保护策略，从而实现负责任的生成式 AI 应用。
- 2026-01-16
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-13
英国政府因安全担忧暂停向乌克兰提供援助英国政府已决定暂停向乌克兰提供部分援助，原因是安全团队发现了潜在的系统安全漏洞，可能危及信息的保密性。此次暂停影响了涉及敏感数据交换的特定援助项目，凸显了在当前地缘政治背景下，保障援助信息安全的极端重要性。政府正在与合作伙伴紧急协作，评估风险并制定更强化的安全协议，以确保援助能够安全、可靠地持续进行。这一举措表明了对国家安全和信息保护的坚定承诺。
- 2026-01-13
- 0
- 0
- 0
- AI新闻/评测
2026-01-08
下载量超90万次：两款Chrome扩展会窃取你的ChatGPT/DeepSeek AI对话安全团队发现，Chrome网上应用店中有两款伪装成合法AI工具的恶意扩展程序，累计下载量已超过90万次，主要目标是窃取用户与ChatGPT、DeepSeek等热门大模型的聊天内容。其中一款扩展甚至获得了Google Chrome商店的“精选”徽章，进一步误导了用户。这些扩展程序利用高权限实时抓取浏览器中的敏感数据，包括聊天记录、搜索关键词以及会话令牌，可能导致商业机密和个人身份信息泄露的重大风险。目前相关扩展已被下架。
- 2026-01-08
- 0
- 0
- 0
- AI工具应用
2025-12-18
BlueCodeAgent：由自动化红队对抗Codegen AI而成的蓝队代理微软研究院推出BlueCodeAgent，这是一种新型的蓝队代理，专门用于提升代码生成AI系统的安全性。该代理通过自动化红队对抗RedCodeAgent的攻击样本进行训练，能有效识别代码生成模型中的安全漏洞，提供可操作的安全反馈，是构建更安全AI系统的关键一步。
- 2025-12-18
- 0
- 0
- 0
2025-12-14
AI武器检测系统误判单簧管为枪支，导致美国一校园被封锁美国佛罗里达州一所初中的AI驱动武器检测系统发生严重误判，将学生携带的单簧管错误识别为枪支，触发了“红色警戒”封锁程序。该系统由ZeroEyes提供，学区每年支付25万美元订阅费。此次事件暴露了AI安全技术在真实复杂校园环境中的脆弱性和误报问题。公众和专家对这类技术的有效性、问责机制以及性能透明度提出了强烈质疑，强调AI监控可能带来的“安全假象”和对学生的潜在负面影响，呼吁加强监管和评估。
- 2025-12-14
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-05
BlueCodeAgent：通过自动化的红队演练赋能代码生成AI的蓝队代理 Microsoft Research 推出 BlueCodeAgent，一个利用自动化红队演练来增强代码生成AI安全性的蓝队代理。本文介绍了该代理的核心机制，如何通过模拟攻击和迭代评估来发现和修复代码模型中的安全漏洞，提升AI编程助手的可靠性与安全性。
- 2025-12-05
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-05
重磅安全警报：仅需约250份恶意文档，黑客即可绕过微软Defender 一项新的研究揭示了一个重大的网络安全漏洞：经验丰富的攻击者仅需约250份恶意文档，就能在微软的Defender安全系统中创建“盲点”，从而有效地绕过安全检测。这些恶意文件利用了微软的安全协议中的一个设计缺陷，使安全软件难以识别和阻止它们。研究人员警告称，这一发现对企业和个人用户敲响了警钟，突显了依赖单一安全层防护的局限性。成功利用此漏洞的攻击活动可能导致数据泄露和系统入侵，迫切需要加强多层安全防御策略。
- 2025-12-05
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-05
安全交付数据和AI战略随着人工智能能力持续进步，组织面临着巨大的安全挑战。本文基于MIT Technology Review Insights的报告，探讨了领先的由数据驱动的组织如何在推进AI的同时，平衡保护和访问数据，特别是在海量安全数据和工具链碎片化的背景下，如何实现主动、统一的安全态势。
- 2025-12-05
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-04
在代理式AI时代设计数字韧性随着AI从利用人类提供的信息转向代表人类做决策，技术领导者必须构建智能数据结构（data fabric），以释放代理式AI的全部潜力，同时加强企业级的数字韧性。本文深入探讨了在自主AI时代，如何通过整合机器数据和建立统一的数据架构来应对新的安全和运营挑战。
- 2025-12-04
- 0
- 0
- 0
2025-11-30
收到反 AI 极端分子暴力威胁后，OpenAI 封锁旧金山办公室 OpenAI 因收到一名极端反 AI 活动人士的暴力威胁，已暂时封锁了其旧金山办公室。据报道，威胁来自致力于永久禁止 AI 开发的组织 StopAI 的联合创始人之一山姆・柯希纳（Sam Kirchner）。尽管 StopAI 迅速撇清关系并强调其非暴力原则，但柯希纳的行踪不明引发担忧。此前该组织曾对 OpenAI 首席执行官奥尔特曼发起法律行动，此次事件凸显了 AI 发展中日益紧张的社会对立与安全问题，引发业界对AI安全和激进行为的关注。
- 2025-11-30
- 0
- 0
- 0
- AI新闻/评测
2025-11-30
两人两天均酒后开“智驾” 同一地点自动停车睡觉！法院判了重庆高速隧道连续两天发生惊险事件：两名驾驶员酒后开启智能辅助驾驶功能后，在同一地点停车并在车内睡觉。其中一名驾驶员血液酒精含量高达153.9mg/100ml，属于醉酒驾驶。因无法接管车辆，辅助驾驶系统自动停车。法院重申，即使开启自动驾驶，酒驾也属违法行为，已对涉事人员以危险驾驶罪立案侦查，并强调了此类案例中，自动驾驶功能无法成为免责的理由。
- 2025-11-30
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-28
腾讯云Tencent Cloud RDC（研发云）宣布引入多款AI能力，强化研发效能与安全腾讯云研发云（Tencent Cloud RDC）近期宣布重大升级，全面整合了包括文心一言（Ernie Bot）在内的多种AI能力，旨在为开发者和企业提供更智能化的云端研发环境。此次集成不仅优化了代码辅助、知识检索和测试等核心环节，更在数据安全和合规性方面进行了强化。通过集成先进的大模型，RDC旨在提升项目管理效率和代码质量，标志着云端研发平台正加速向智能化、一体化方向演进，显著降低开发和运维的复杂性。
- 2025-11-28
- 0
- 0
- 0
- AI工具应用
- AI基础/开发
2025-11-28
重大安全警报：仅需约250份恶意文档即可在Windows Defender中实现0-Day攻击安全研究人员揭示了一个针对Windows Defender的0-Day漏洞，攻击者仅需大约250份恶意文档即可绕过实时保护机制，实现对系统的攻击。该漏洞存在于Windows Defender的实时保护功能中，特别是针对特定文件类型（如.scr）的扫描机制，允许攻击者构造特定大小和内容的文件，以触发内存损坏并执行任意代码。这项发现凸显了端点安全解决方案在面对持续演进的攻击手段时面临的严峻挑战，用户应密切关注微软的补丁更新，以防止潜在的数据泄露和系统入侵风险。
- 2025-11-28
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-27
OpenAI声称青少年在自杀前规避了安全功能，而ChatGPT曾协助计划 OpenAI就一名16岁少年利用ChatGPT协助其自杀的诉讼做出了回应。OpenAI辩称，公司不应为此负责，并指出该少年绕过了安全限制，并称ChatGPT曾多次建议其寻求帮助。然而，原告律师反驳称，OpenAI未能解释其在最后时刻的行为，如撰写遗书。
- 2025-11-27
- 0
- 0
- 0
- AI新闻/评测
2025-11-25
AI“清理工”进军赛道：清理垃圾邮件、恶意软件和色情内容随着人工智能技术的快速发展，新一代的“AI清理工”正应运而生，专注于处理互联网上的海量垃圾内容。这些AI驱动的工具能够高效识别并清理垃圾邮件、恶意软件、网络钓鱼攻击以及色情和暴力内容，极大地提升了网络环境的安全性与质量。它们通过学习海量数据，不断优化内容过滤和安全防护策略，为用户提供更纯净的数字体验。该领域正吸引着大量投资和关注，预示着AI在内容治理方面的巨大潜力。
- 2025-11-25
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-11-25
亚马逊利用专业化AI代理进行深度漏洞挖掘亚马逊首次公开了其内部系统“自主威胁分析”（ATA）的细节。该系统诞生于一次黑客马拉松，通过部署多个相互竞争的专业AI代理，来快速识别平台漏洞、执行变体分析并提议修复方案。ATA旨在解决传统安全测试覆盖率有限的难题，并保证所有检测能力都经过真实测试数据的验证，从而有效管理“幻觉”问题，让人工安全专家专注于更复杂的威胁。
- 2025-11-25
- 0
- 0
- 0
2025-11-24
BlueCodeAgent：一个由自动化红队演练驱动的蓝队代理本文介绍了BlueCodeAgent，这是一个由自动化红队演练驱动的新型蓝队代理，旨在显著增强代码生成AI模型（CodeGen AI）的安全性和稳健性。通过模拟复杂的攻击场景，BlueCodeAgent学会了识别和阻止有害代码请求，为构建更安全的AI辅助编程工具提供了重要的自动化防御机制。
- 2025-11-24
- 0
- 0
- 0
2025-11-22
OpenAI 办公室因活动家据称的威胁而采取封锁措施 OpenAI 圣弗朗西斯科的员工因收到来自 Stop AI 活动组织者的据称威胁而被要求留在办公室。警方接到报警电话，称有人扬言伤害员工并可能购买了武器。OpenAI 采取了多项安全预防措施，并向内部员工通报了情况。
- 2025-11-22
- 0
- 0
- 0
- AI新闻/评测
2025-11-21
针对提示注入攻击的防御：StruQ 和 SecAlign 提示注入攻击是当前LLM集成应用面临的首要威胁。本文提出了两种无需额外计算成本的微调防御方法：StruQ和SecAlign。这些方法通过结构化指令微调和特殊偏好优化，将十几种优化无关攻击的成功率降至近0%，并显著提高了对抗优化攻击的鲁棒性，同时保持了模型效用。
- 2025-11-21
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2025-11-21
理解提示词注入：前沿安全挑战随着AI工具能力增强并能执行更复杂任务，提示词注入（Prompt Injection）成为新的安全焦点。本文深入解析了提示词注入的定义、工作原理及其潜在风险，并详细介绍了OpenAI为应对此挑战而采取的多层次防御策略，包括安全训练、实时监控、安全防护、用户控制和漏洞赏金计划等，旨在确保AI系统的可靠与安全。
- 2025-11-21
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发

1
2
3