Berkeley AI Research-青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

青云TOP-AI综合资源站平台|青云聚合API大模型调用平台|全网AI资源导航平台

行动起来，活在当下

累计撰写 5553 篇文章
累计创建 1936 个标签
累计收到 0 条评论

目录CONTENT

以下是 Berkeley AI Research 相关的文章

2026-02-10
针对提示词注入的防御：StruQ 和 SecAlign 微调方法提示词注入是当前LLM应用面临的首要威胁。本文介绍了Berkeley AI Research提出的两种无需额外计算成本的微调防御方法：StruQ和SecAlign。这些方法通过在输入中明确分隔指令和数据，并训练模型忽略注入的指令，显著降低了攻击成功率，同时保持了模型实用性。
- 2026-02-10
- 0
- 0
- 0
- AI基础/开发
- AI工具应用