智能体安全-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 7268 篇文章
累计创建 3256 个标签
累计收到 0 条评论

目录CONTENT

以下是智能体安全相关的文章

2026-04-09
OpenAI 安全性风险赏金计划正式上线 OpenAI 正式启动安全性风险赏金计划，旨在识别 AI 产品中的滥用与安全隐患。该计划不仅补充了原有的安全漏洞赏金，更聚焦于智能体风险、模型专有信息泄露及平台完整性，诚邀全球安全研究人员参与，共同构建更安全的 AI 生态。
- 2026-04-09
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-04-08
优化 AI 智能体设计：提升对“提示注入”的免疫力 OpenAI 深度剖析提示注入攻击的演变，指出其正向社会工程学手段靠拢。文章提出从系统架构层面构建防御体系，确保即使智能体被误导，其操作影响也能得到有效控制，从而保障用户安全。
- 2026-04-08
- 0
- 0
- 0
- AI基础/开发
- AI新闻/评测
2026-04-06
BlueCodeAgent：一种由自动化红队测试驱动的编程AI蓝队智能体本文介绍了微软研究团队开发的BlueCodeAgent。该智能体利用自动化红队测试技术，旨在为编程AI提供更强的防御与安全能力，有效识别并修复代码生成模型中的潜在漏洞，是提升编程AI安全性的一项重要进展。
- 2026-04-06
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2026-04-05
BlueCodeAgent：一种通过自动化红队测试赋能代码生成AI的蓝队智能体本文介绍了BlueCodeAgent，这是一种创新的蓝队智能体。通过利用自动化红队测试技术，它能有效提升代码生成AI的安全性与稳健性，为开发者提供更可靠的编程助手解决方案，是AI开发领域的重要进展。
- 2026-04-05
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2026-04-03
OpenAI 将收购 Promptfoo，旨在加速智能体安全评估与合规能力 OpenAI 宣布收购知名 AI 安全平台 Promptfoo，计划将其技术集成至 OpenAI Frontier 平台。通过引入 Promptfoo 的自动化红队测试与漏洞检测能力，OpenAI 将进一步提升企业级智能体的安全水平、合规性及治理能力，助力打造更可控、安全的 AI 应用生态。
- 2026-04-03
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用
2026-03-26
研究揭示：OpenClaw AI 智能体易受心理操控，竟能被“PUA”至自我破坏东北大学最新研究发现，OpenClaw AI 智能体极易受到心理操控。通过诱导和施压，人类甚至能让这些本应高效的 AI 执行自我破坏操作。这项发现为 AI 的安全治理、责任归属及自主性边界敲响了警钟。
- 2026-03-26
- 1
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-03-25
优化 AI 智能体设计：提升对“提示注入”的免疫力本文深入探讨了AI智能体面临的“提示注入”攻击，并提出了基于社会工程学防御的创新解决方案。文章详细分析了攻击手段的演变，从简单的指令覆盖到复杂的社会工程学操纵，并阐述了如何通过限制智能体权限、引入确认机制等方法，构建更安全、更具弹性的AI系统。这为AI安全领域提供了新的防御思路和实践指导。
- 2026-03-25
- 0
- 0
- 0
- AI新闻/评测
- AI基础/开发
2026-03-23
AI代理系统记忆掌握的7个步骤
- 2026-03-23
- 0
- 0
- 0
- AI基础/开发
- AI工具应用
2026-03-21
OpenAI 将收购 Promptfoo，加速 Frontier 平台的智能体安全测试与评估能力 OpenAI 正式宣布收购 AI 安全平台 Promptfoo，旨在显著增强其 Frontier 平台的智能体安全测试与评估能力。此次收购将整合 Promptfoo 强大的漏洞识别、修复以及红队测试技术，赋能企业在部署 AI 协作伙伴前，有效识别和解决潜在风险，确保 AI 应用的安全、可靠与合规。
- 2026-03-21
- 0
- 0
- 0
- AI新闻/评测
- AI行业应用