📢 转载信息
原文作者：Microsoft Research
注意： 由于您提供的HTML片段仅包含一个推荐文章的链接标题和图片，而非实际的文章正文内容，我将根据该链接的标题推断内容，并提供一个结构化的、符合要求的占位输出。请提供完整的文章HTML以便进行准确的提取和翻译。
基于标题 “Reducing privacy leaks in AI: Two approaches to contextual integrity”，推测文章主要讨论了如何在人工智能系统中应用情境完整性（Contextual Integrity）理论来减少隐私泄露的两种方法。
以下是根据推测主题构建的结构化翻译内容：
降低AI中的隐私泄露：两种情境完整性的方法
在人工智能快速发展的背景下，保护用户数据隐私已成为一个日益紧迫的挑战。当大型语言模型（LLMs）等AI系统在处理大量数据时，如何确保信息不被意外泄露或滥用，是研究的关键方向之一。
本研究聚焦于情境完整性（Contextual Integrity, CI）理论，这是一种被广泛认可的隐私框架，用于评估信息流的恰当性。我们将探讨如何将CI理论应用于AI系统的设计与部署中，特别是针对可能导致敏感信息泄露的场景。
第一种方法：基于AI输入/输出的限制
第一种方法着重于对AI模型在特定应用场景下的输入和输出进行严格控制，以确保数据流符合预设的隐私规范。这涉及到对信息流的上下文限制。
- 输入验证： 确保用于训练或推理的数据符合预期的上下文，过滤掉不相关的或高度敏感的信息。
- 输出审计： 实时监控模型生成的内容，一旦检测到敏感信息（如个人身份信息 PII 或专有信息）以非授权形式出现，立即阻止或修改输出。
- 最小化数据暴露： 采用差分隐私（Differential Privacy）等技术，在不牺牲模型性能的前提下，对训练数据进行扰动，降低模型记忆训练样本的风险。
图 1：AI系统中的信息流与隐私边界
第二种方法：构建情境感知的数据治理框架
第二种方法更为宏观，它主张建立一个情境感知的数据治理框架，该框架能够理解不同数据在不同情境下的敏感度，并动态调整访问权限和使用策略。
“情境完整性要求我们不仅关注‘数据是什么’，更要关注‘数据在何处被使用’以及‘谁有权访问’。”
这种框架需要定义清晰的数据类型、目标受众和信息规范。例如，一个用于医疗诊断的AI模型，其数据规范与一个用于市场营销的AI模型将有天壤之别。通过自动化工具来映射和执行这些规范，可以有效降低人为错误导致的隐私泄露。
结论：平衡实用性与隐私保护
将情境完整性应用于AI系统，为我们提供了一个强大的理论基础，以应对复杂的隐私挑战。通过结合输入/输出限制和情境感知治理，研究人员和开发者可以更负责任地部署强大的AI技术，确保技术进步不以牺牲用户隐私为代价。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区