安全可控性-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 6220 篇文章
累计创建 2559 个标签
累计收到 0 条评论

目录CONTENT

以下是安全可控性相关的文章

2026-03-12
设计可抵抗提示注入的AI智能体随着AI智能体能够浏览网络、检索信息并代表用户采取行动，它们也面临着新型攻击的风险。本文探讨了“提示注入”攻击如何演变为更复杂、更像社会工程学的手段，并介绍了OpenAI如何借鉴传统社会工程学防御经验，通过设计限制性系统和实施如“安全URL”等机制，来增强ChatGPT等智能体的安全性。
- 2026-03-12
- 0
- 0
- 0
2026-03-11
工信部专家：审慎使用“龙虾”等智能体近日，开源AI智能体“龙虾”（OpenClaw）因其强大的执行能力引发广泛关注，但同时也带来了严峻的安全挑战。工信部网络安全威胁和漏洞信息共享平台发布风险提示，中国信息通信研究院副院长魏亮呼吁党政机关、企事业单位和个人用户审慎使用“龙虾”等智能体，并详细介绍了安全使用“龙虾”的六大原则：使用官方最新版本、严格控制互联网暴露面、坚持最小权限原则、谨慎使用技能市场、防范社会工程学攻击和浏览器劫持、建立长效防护机制。他强调，安全使用AI智能体需要用户自身具备安全意识并落实相关措施。
- 2026-03-11
- 0
- 0
- 0
2026-03-11
提升前沿大模型的指令层级：IH-Challenge 数据集旨在增强指令层级、安全可控性和提示注入鲁棒性 OpenAI 推出了 IH-Challenge，一个旨在提升大模型指令层级、安全可控性和提示注入鲁棒性的训练数据集。该数据集通过模拟多源指令冲突场景，训练模型优先遵循更可信的指令，有效解决了AI系统中因指令优先级混乱导致的安全与可靠性问题，并展示了其在多项安全属性上的显著提升。
- 2026-03-11
- 0
- 0
- 0