📢 转载信息
原文链接：https://www.wired.com/story/signals-creator-is-helping-encrypt-meta-ai/
原文作者：Lily Hay Newman, Matt Burgess
Signal 的创始人将为 Meta AI 添加加密功能
Moxie Marlinspike 表示，他开发的加密 AI 聊天机器人 Confer 的技术将集成到 Meta AI 中。此举有望保护数百万人的 AI 对话。
Moxie Marlinspike，这位创建了安全通信应用 Signal 及其广泛使用的开源加密协议的隐私倡导者，本周表示，他以隐私为重点的 AI 平台 Confer 将开始将其技术集成到 Meta 的 AI 系统中。
Signal、Meta 的 WhatsApp 和 Apple 的 Messages 每天发送的数十亿条聊天消息都受到 端到端加密的保护。在过去十年中，这项功能已成为主流，它使得科技公司以及除发送者和接收者之外的任何人无法窃听你的消息。然而，随着生成式 AI 平台的普及，人们现在每天还在与大量不提供端到端加密保护的 AI 聊天机器人进行数 miljardy 次信息交换——这使得 AI 公司很容易访问你们的对话内容。
这在某种程度上是设计使然，因为平台通常希望尽可能多地利用用户数据来训练其 AI 模型，并且 极难选择退出让你的信息被用作训练数据。但随着聊天机器人和 AI 代理的能力越来越强，一些 技术人员和公司正致力于创建更受限制、更注重隐私的系统。
“随着大语言模型（LLM）的能力不断增强，我们应该预见到会有更多数据流入其中，” Marlinspike 在周二发布的关于他与 Meta 合作的 简短博文中写道。“目前，这些数据中没有一个是私密的。它们被共享给 AI 公司、他们的员工、黑客、传票和政府。就像所有未加密数据一样，它们最终会落入不法分子之手。”
Marlinspike 写道，他将“致力于集成 Confer 的隐私技术，使其成为 Meta AI 的基础。”他还强调，Confer 在今年年初 推出后，将继续独立于 Meta 运营。Marlinspike 补充说，该项目的目标是提供一项技术，“让每个人都能获得 AI 的全部强大功能，同时也能获得加密对话的全部隐私。”
2016 年，Marlinspike 与 Meta 旗下的 WhatsApp 合作，将端到端加密推广给超过 十亿个账户。在过去一年中，WhatsApp 在其应用中引入了一个 Meta AI 聊天机器人，该机器人 不像个人聊天那样受到公司保护。
“人们以非常私人的方式使用 AI，并需要访问机密信息，” WhatsApp 负责人 Will Cathcart 在周三的社交媒体平台 X 上写道，谈到与 Confer 的合作。“以一种能够让人们私密地完成这些事情的方式构建这项技术非常重要。”
加密 AI 的采用仍在新兴阶段。用于传统数字通信端到端加密的密码学方案，很难或不能直接转化为生成式 AI 的数据保护。就 Confer 而言，它仍然是一个新项目，Marlinspike 的博文没有提供关于此次与 Meta 合作将如何具体进行或集成目标的具体细节。
在发布前，Marlinspike 和 Meta 均未向 WIRED 提供更多评论。
纽约大学的密码学研究员 Mallory Knodel 表示，让“使用 Meta AI 聊天机器人的用户在交流中拥有机密性和隐私性”将是“非常棒的”。Knodel 与同事最近发表了一篇关于 端到端加密与 AI 的研究。她认为，关键在于 Meta 不能将 AI 聊天数据用于训练。“我真心希望更多的 AI 聊天机器人能采用这种方法。”
Knodel 对 Confer 的初步评估 表明，该平台并不完美，但它是构建私有 AI 聊天机器人的重要范例。
Confer 的优势与挑战
加密货币平台 Taurus 的首席安全官、密码学家 JP Aumasson 也对 Confer 迄今为止得出了类似的结论。“总的来说，Confer 可能是最好的私有 AI 解决方案，”他告诉 WIRED。“它当然不是完美的。它的架构、威胁模型和供应链的文档记录都很缺乏。但 Moxie 知道他在做什么，并且有可靠的往绩。”
为 AI 平台开发加密方案的复杂性是一个主要障碍，迄今为止，大部分隐私工作都集中在易于访问的开源模型或构建 隐私层以隔离 AI 公司和最终用户。例如，正如 Marlinspike 周二所写，“Confer 的技术是建立在开放权重模型之上的。虽然许多人喜欢使用 Confer 来完成各种任务，但其他人则错过了专有模型的前沿功能。”
与 Meta 的合作让 Marlinspike 有机会直接与封闭模型合作。“Meta 正在构建先进的前沿模型，因此这将把世界上最私有的 AI 聊天技术与世界上最强大的 AI 模型结合起来，”他写道。
无论该项目最终是否能实现所有这些赞誉，研究人员都强调，这次合作是意义重大的。
“Moxie 关于使用可信计算的提议，这个概念至少可以追溯到 20 世纪 90 年代，对我来说是合理的，” Taurus 的 Aumasson 说。“基本假设和限制都得到了很好的理解。同样，它并不完美，但对大多数用户来说可能足够了。挑战在于支持与 Anthropic、Google 和 OpenAI 的最新前沿模型一样好的模型。”
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区