📢 转载信息
原文作者：Kyle Wiggers
Salesforce推出“AI信任层”：解决企业部署生成式AI的痛点
Salesforce今日发布了其新的“AI信任层”（AI Trust Layer），旨在帮助企业在安全、可靠和负责任的前提下部署生成式AI技术。这一新功能旨在解决企业在实际应用生成式AI时面临的信任、治理和安全挑战。
在Salesforce的Dreamforce大会上，公司宣布了这项重要的安全与治理举措。该公司表示，AI信任层将作为其整个产品组合的通用安全和治理框架，以确保在整个客户旅程中实现负责任的AI使用。
Salesforce的首席执行官兼联合创始人马克·贝尼奥夫（Marc Benioff）表示：“我们相信，负责任的AI实践是任何企业成功采用生成式AI的先决条件。AI信任层为客户提供了在整个AI生命周期中保持信任、安全和治理所需的一切工具。”
AI信任层的核心功能
AI信任层主要通过以下几个方面来确保企业AI部署的可靠性：
1. 提示词和输出审计（Prompt and Output Auditing）
该层能够记录和跟踪用户如何与AI互动，包括他们输入的提示词和AI生成的输出。这对于合规性、故障排除和持续改进模型至关重要。
2. 数据隐私和安全（Data Privacy and Security）
它确保敏感的客户数据不会被意外暴露给外部大型语言模型（LLM）。Salesforce承诺，通过AI信任层，客户数据不会被用于训练外部模型，除非客户明确选择加入。
3. 负责任的AI治理（Responsible AI Governance）
AI信任层提供了策略管理工具，使企业能够根据自身政策和行业法规来控制和限制AI的使用。这包括实施内容过滤和防止有害或不当输出的机制。
4. 提示词注入保护（Prompt Injection Protection）
为了防御恶意用户通过操纵提示词来绕过安全或业务逻辑的攻击，AI信任层集成了专门的防御机制。
集成到Salesforce生态系统
Salesforce计划将AI信任层无缝集成到其整个AI产品组合中，包括：
- Einstein GPT： 确保所有Einstein GPT功能都受到信任层保护。
- Salesforce Data Cloud： 允许企业利用其受治理的、可信赖的数据来驱动AI应用。
- 行业云（Industry Clouds）： 针对特定行业的AI解决方案也将遵循此安全框架。
Salesforce表示，AI信任层将首先对Code Builder中的GitHub Copilot集成可用，并计划在未来几个月内推广到更多生成式AI功能中。
公司相信，通过提供一个集中的、可定制的安全框架，企业可以更快、更自信地将生成式AI从试点项目推向大规模生产，从而释放AI的全部业务价值。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，小白也可以简单操作。
青云聚合API官网https://api.qingyuntop.top
支持全球最新300+模型：https://api.qingyuntop.top/pricing
详细的调用教程及文档：https://api.qingyuntop.top/about
评论区