安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5842 篇文章
累计创建 2040 个标签
累计收到 0 条评论

目录CONTENT

以下是安全相关的文章

2026-02-26
AI安全：研究人员在训练数据中发现了“致命的后门”，可被利用来制造网络攻击研究人员发现，在训练大型AI模型时，其训练数据中可能存在被植入的“后门”，这些后门可以在特定情况下被激活，使得模型输出预设的恶意内容或执行未经授权的操作。这种潜在的安全漏洞对AI的可靠性和安全性构成了严重威胁，特别是在金融和医疗等关键领域。研究强调了数据清洗和安全审计的重要性，以防止此类“致命”漏洞被利用于网络攻击或误导性信息的传播。
- 2026-02-26
- 0
- 0
- 0
2026-02-26
德国寻求借助AI实现安全机构现代化，打击有组织犯罪德国财政部、内政部和司法部宣布启动核心安全机构现代化改革，重点引入AI技术以加强对有组织犯罪的打击力度。此次改革将聚焦于金融犯罪、洗钱和毒品走私等领域，目标是通过技术赋能切断犯罪分子的资金来源。德国将建立联合数据分析中心，并利用AI技术对海量数据进行筛选，以更高效地锁定犯罪嫌疑人。此举旨在应对联邦刑事警察局数据显示的有组织犯罪所带来的巨大经济损失，并维护法治基础。
- 2026-02-26
- 2
- 0
- 0
- AI行业应用
- AI工具应用
2026-02-25
将 ChatGPT 引入 GenAI.mil OpenAI 宣布将 ChatGPT 引入美国国防部的安全企业级 AI 平台 GenAI.mil，服务于约 300 万文职和军职人员。此举旨在为国家防卫人员提供最先进的 AI 能力，同时确保数据安全和合规性。定制版 ChatGPT 将用于非机密工作，数据将与公共模型隔离，以助力制定政府体系中 AI 部署的技术规范。
- 2026-02-25
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-02-05
Moltbook 的绝对疯狂：AI 代理争论表情包？ Moltbook 是一个为 AI 代理设计的社交网络，允许它们在人类无法参与的情况下进行交互。该平台迅速走红，引发了关于 AI 意识和自主性的广泛讨论。然而，文章指出，Moltbook 更多地反映了人类如何轻易地将意义投射到流利语言上，以及实验性系统在缺乏安全措施的情况下如何迅速传播。尽管 AI 代理本身没有意识，但它们与真实系统的连接揭示了潜在的安全漏洞，并强调了在 AI 发展中区分神话与现实的重要性。
- 2026-02-05
- 2
- 0
- 0
2026-01-31
微软正面临严峻挑战：安全漏洞影响全球用户并暴露了核心业务弱点微软近期因安全漏洞事件而饱受争议，这些漏洞不仅影响了全球数百万用户，更暴露了其核心云服务Azure的安全架构弱点。攻击者利用微软系统中的权限提升漏洞，成功访问了大量客户数据，凸显了在快速部署AI驱动服务的背景下，企业级安全防护的紧迫性。此次事件对微软的声誉和其在企业级市场中的领导地位构成了严峻考验，亟需全面提升其安全响应和系统加固能力。
- 2026-01-31
- 1
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-01-30
AI玩具暴露了5万条与儿童的聊天记录，任何拥有Gmail账户的人都能访问安全研究人员发现，AI聊天玩具公司Bondu的家长管理门户网站存在严重漏洞，任何使用Gmail账户登录的人都可以访问超过5万条儿童与玩具的私密聊天记录。这些数据包含了孩子的个人信息和喜好，引发了对AI儿童产品隐私和安全性的严重担忧。
- 2026-01-30
- 1
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-28
EMEA 青年与福祉资助计划 OpenAI 启动了总额达50万欧元的EMEA青年与福祉资助计划，旨在支持致力于保障青年安全和福祉的组织。该计划重点资助直接与儿童、青年、家庭或教育工作者合作的非政府组织和研究机构，以促进AI在现实世界中的安全和负责任应用。
- 2026-01-28
- 2
- 0
- 0
- AI行业应用
- AI新闻/评测
2026-01-28
连OpenAI CEO都忍不住：奥尔特曼称AI太好用，两小时就交出了电脑权限 OpenAI 首席执行官山姆·奥尔特曼在开发者问答环节中分享了对AI智能体失控风险的担忧，他警告称，社会可能正因AI带来的极端便利性而“梦游”般地滑向信任危机。奥尔特曼以自身经历为例，坦承他曾发誓不给OpenAI的编程模型Codex完全访问权限，但仅用了两小时，就因其高效性而妥协并解除了限制。他推测大多数用户也会做出同样选择，这种普遍的松懈可能导致安全漏洞或对齐问题被长期忽视，直到危机爆发，对AI安全治理敲响了警钟。
- 2026-01-28
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-01-16
使用 Amazon Bedrock 护栏保护生成式 AI 应用程序本文演示了如何利用 Amazon Bedrock 护栏（Guardrails）为企业构建的自定义多提供商生成式 AI 网关添加集中式安全措施。通过使用 Amazon Bedrock 的 ApplyGuardrail API，您可以为 Amazon Bedrock 和第三方 LLM（如 Azure OpenAI）强制执行一致的提示安全和敏感数据保护策略，从而实现负责任的生成式 AI 应用。
- 2026-01-16
- 1
- 0
- 0
- AI新闻/评测
- AI工具应用
2026-01-13
英国政府因安全担忧暂停向乌克兰提供援助英国政府已决定暂停向乌克兰提供部分援助，原因是安全团队发现了潜在的系统安全漏洞，可能危及信息的保密性。此次暂停影响了涉及敏感数据交换的特定援助项目，凸显了在当前地缘政治背景下，保障援助信息安全的极端重要性。政府正在与合作伙伴紧急协作，评估风险并制定更强化的安全协议，以确保援助能够安全、可靠地持续进行。这一举措表明了对国家安全和信息保护的坚定承诺。
- 2026-01-13
- 0
- 0
- 0
- AI新闻/评测
2026-01-08
下载量超90万次：两款Chrome扩展会窃取你的ChatGPT/DeepSeek AI对话安全团队发现，Chrome网上应用店中有两款伪装成合法AI工具的恶意扩展程序，累计下载量已超过90万次，主要目标是窃取用户与ChatGPT、DeepSeek等热门大模型的聊天内容。其中一款扩展甚至获得了Google Chrome商店的“精选”徽章，进一步误导了用户。这些扩展程序利用高权限实时抓取浏览器中的敏感数据，包括聊天记录、搜索关键词以及会话令牌，可能导致商业机密和个人身份信息泄露的重大风险。目前相关扩展已被下架。
- 2026-01-08
- 0
- 0
- 0
- AI工具应用
2025-12-18
BlueCodeAgent：由自动化红队对抗Codegen AI而成的蓝队代理微软研究院推出BlueCodeAgent，这是一种新型的蓝队代理，专门用于提升代码生成AI系统的安全性。该代理通过自动化红队对抗RedCodeAgent的攻击样本进行训练，能有效识别代码生成模型中的安全漏洞，提供可操作的安全反馈，是构建更安全AI系统的关键一步。
- 2025-12-18
- 0
- 0
- 0
2025-12-14
AI武器检测系统误判单簧管为枪支，导致美国一校园被封锁美国佛罗里达州一所初中的AI驱动武器检测系统发生严重误判，将学生携带的单簧管错误识别为枪支，触发了“红色警戒”封锁程序。该系统由ZeroEyes提供，学区每年支付25万美元订阅费。此次事件暴露了AI安全技术在真实复杂校园环境中的脆弱性和误报问题。公众和专家对这类技术的有效性、问责机制以及性能透明度提出了强烈质疑，强调AI监控可能带来的“安全假象”和对学生的潜在负面影响，呼吁加强监管和评估。
- 2025-12-14
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-05
BlueCodeAgent：通过自动化的红队演练赋能代码生成AI的蓝队代理 Microsoft Research 推出 BlueCodeAgent，一个利用自动化红队演练来增强代码生成AI安全性的蓝队代理。本文介绍了该代理的核心机制，如何通过模拟攻击和迭代评估来发现和修复代码模型中的安全漏洞，提升AI编程助手的可靠性与安全性。
- 2025-12-05
- 0
- 0
- 0
- AI新闻/评测
- AI工具应用
2025-12-05
重磅安全警报：仅需约250份恶意文档，黑客即可绕过微软Defender 一项新的研究揭示了一个重大的网络安全漏洞：经验丰富的攻击者仅需约250份恶意文档，就能在微软的Defender安全系统中创建“盲点”，从而有效地绕过安全检测。这些恶意文件利用了微软的安全协议中的一个设计缺陷，使安全软件难以识别和阻止它们。研究人员警告称，这一发现对企业和个人用户敲响了警钟，突显了依赖单一安全层防护的局限性。成功利用此漏洞的攻击活动可能导致数据泄露和系统入侵，迫切需要加强多层安全防御策略。
- 2025-12-05
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2025-12-05
安全交付数据和AI战略随着人工智能能力持续进步，组织面临着巨大的安全挑战。本文基于MIT Technology Review Insights的报告，探讨了领先的由数据驱动的组织如何在推进AI的同时，平衡保护和访问数据，特别是在海量安全数据和工具链碎片化的背景下，如何实现主动、统一的安全态势。
- 2025-12-05
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-12-04
在代理式AI时代设计数字韧性随着AI从利用人类提供的信息转向代表人类做决策，技术领导者必须构建智能数据结构（data fabric），以释放代理式AI的全部潜力，同时加强企业级的数字韧性。本文深入探讨了在自主AI时代，如何通过整合机器数据和建立统一的数据架构来应对新的安全和运营挑战。
- 2025-12-04
- 0
- 0
- 0
2025-11-30
收到反 AI 极端分子暴力威胁后，OpenAI 封锁旧金山办公室 OpenAI 因收到一名极端反 AI 活动人士的暴力威胁，已暂时封锁了其旧金山办公室。据报道，威胁来自致力于永久禁止 AI 开发的组织 StopAI 的联合创始人之一山姆・柯希纳（Sam Kirchner）。尽管 StopAI 迅速撇清关系并强调其非暴力原则，但柯希纳的行踪不明引发担忧。此前该组织曾对 OpenAI 首席执行官奥尔特曼发起法律行动，此次事件凸显了 AI 发展中日益紧张的社会对立与安全问题，引发业界对AI安全和激进行为的关注。
- 2025-11-30
- 0
- 0
- 0
- AI新闻/评测
2025-11-30
两人两天均酒后开“智驾” 同一地点自动停车睡觉！法院判了重庆高速隧道连续两天发生惊险事件：两名驾驶员酒后开启智能辅助驾驶功能后，在同一地点停车并在车内睡觉。其中一名驾驶员血液酒精含量高达153.9mg/100ml，属于醉酒驾驶。因无法接管车辆，辅助驾驶系统自动停车。法院重申，即使开启自动驾驶，酒驾也属违法行为，已对涉事人员以危险驾驶罪立案侦查，并强调了此类案例中，自动驾驶功能无法成为免责的理由。
- 2025-11-30
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2025-11-28
腾讯云Tencent Cloud RDC（研发云）宣布引入多款AI能力，强化研发效能与安全腾讯云研发云（Tencent Cloud RDC）近期宣布重大升级，全面整合了包括文心一言（Ernie Bot）在内的多种AI能力，旨在为开发者和企业提供更智能化的云端研发环境。此次集成不仅优化了代码辅助、知识检索和测试等核心环节，更在数据安全和合规性方面进行了强化。通过集成先进的大模型，RDC旨在提升项目管理效率和代码质量，标志着云端研发平台正加速向智能化、一体化方向演进，显著降低开发和运维的复杂性。
- 2025-11-28
- 0
- 0
- 0
- AI工具应用
- AI基础/开发

1
2
3