首页
AI内容归档
AI新闻/评测
AI基础/开发
AI工具应用
AI创意设计
AI行业应用
AI行业应用
AI相关教程
CG资源/教程
在线AI工具
全网AI资源导航
青云聚合API
注册送免费额度
300+大模型列表
详细的教程文档
关于青云TOP
青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台
行动起来,活在当下
累计撰写
6220
篇文章
累计创建
2559
个标签
累计收到
0
条评论
栏目
首页
AI内容归档
AI新闻/评测
AI基础/开发
AI工具应用
AI创意设计
AI行业应用
AI行业应用
AI相关教程
CG资源/教程
在线AI工具
全网AI资源导航
青云聚合API
注册送免费额度
300+大模型列表
详细的教程文档
关于青云TOP
目 录
CONTENT
以下是
安全可控性
相关的文章
2026-03-12
设计可抵抗提示注入的AI智能体
随着AI智能体能够浏览网络、检索信息并代表用户采取行动,它们也面临着新型攻击的风险。本文探讨了“提示注入”攻击如何演变为更复杂、更像社会工程学的手段,并介绍了OpenAI如何借鉴传统社会工程学防御经验,通过设计限制性系统和实施如“安全URL”等机制,来增强ChatGPT等智能体的安全性。
2026-03-12
0
0
0
AI新闻/评测
AI基础/开发
AI行业应用
2026-03-11
工信部专家:审慎使用“龙虾”等智能体
近日,开源AI智能体“龙虾”(OpenClaw)因其强大的执行能力引发广泛关注,但同时也带来了严峻的安全挑战。工信部网络安全威胁和漏洞信息共享平台发布风险提示,中国信息通信研究院副院长魏亮呼吁党政机关、企事业单位和个人用户审慎使用“龙虾”等智能体,并详细介绍了安全使用“龙虾”的六大原则:使用官方最新版本、严格控制互联网暴露面、坚持最小权限原则、谨慎使用技能市场、防范社会工程学攻击和浏览器劫持、建立长效防护机制。他强调,安全使用AI智能体需要用户自身具备安全意识并落实相关措施。
2026-03-11
0
0
0
AI新闻/评测
AI行业应用
AI基础/开发
2026-03-11
提升前沿大模型的指令层级:IH-Challenge 数据集旨在增强指令层级、安全可控性和提示注入鲁棒性
OpenAI 推出了 IH-Challenge,一个旨在提升大模型指令层级、安全可控性和提示注入鲁棒性的训练数据集。该数据集通过模拟多源指令冲突场景,训练模型优先遵循更可信的指令,有效解决了AI系统中因指令优先级混乱导致的安全与可靠性问题,并展示了其在多项安全属性上的显著提升。
2026-03-11
0
0
0
AI基础/开发
AI新闻/评测
AI行业应用