📢 转载信息
原文作者：Anna Heim
鉴于私营企业违约率高达 9.2%——这是多年来的最高纪录——风险投资公司 Lux Capital 最近建议依赖 AI 的公司务必将计算能力承诺以书面形式确认。Lux 警告说，随着金融不稳定因素在 AI 供应链中蔓延，握手协议已不足够。
但还有一种完全不同的选择，那就是完全停止依赖外部计算基础设施。那些在用户自己的设备上直接运行的小型 AI 模型——无需数据中心、无需云提供商、没有交易对手风险——正变得足够好，值得考虑。而 Multiverse Computing 公司正在为此努力。
这家西班牙初创公司到目前为止，其知名度不如一些同行，但随着对 AI 效率需求的增长，这种情况正在改变。在压缩了包括 OpenAI、Meta、DeepSeek 和 Mistral AI 在内的主要 AI 实验室的模型后，它推出了一个展示其压缩模型能力的应用程序，以及一个 API 门户——开发者可以通过它来访问和构建这些模型，从而使它们更广泛可用。
与 Multiverse 的量子启发式压缩技术同名的 CompactifAI 应用程序，是一款类似于 ChatGPT 或 Mistral 的 Le Chat 的 AI 聊天工具。你提出问题，模型就会回答。不同之处在于，Multiverse 嵌入了 Gilda，这是一款非常小的模型，据该公司称，它可以离线本地运行。
对于最终用户来说，这是边缘计算 AI 的一种体验，数据不会离开他们的设备，也不需要连接。但有一个前提：他们的移动设备必须有足够的 RAM 和存储空间。如果不足——许多旧款 iPhone 就不够——应用程序将通过 API 切换回基于云的模型。本地和云处理之间的路由由 Multiverse 命名为 Ash Nazg 的系统自动处理，托尔金迷听到这个名字会立刻联想到《指环王》中的至尊魔戒铭文。但是，当应用程序路由到云端时，它也就失去了主要的隐私优势。
这些限制意味着 CompactifAI 尚未准备好大规模面向消费者使用，尽管这可能从未是其目标。根据 Sensor Tower 的数据，该应用程序上个月的下载量不到 5000 次。
真正的目标是企业。今天，Multiverse 推出了一个自助式 API 门户，使开发者和企业可以直接访问其压缩模型——无需 AWS Marketplace。
“CompactifAI API 门户现在让开发者可以直接访问压缩模型，并提供在生产环境中运行它们所需的透明度和控制力，”CEO Enrique Lizaso 在一份声明中说。
实时使用监控是 API 的关键功能之一，这并非偶然。除了部署在边缘的潜在优势外，较低的计算成本也是企业考虑使用小型模型作为大型语言模型 (LLM) 替代方案的主要原因之一。
小型模型不像以前那样受限制，这也有所帮助。本周早些时候，Mistral 更新了其小型模型系列，推出了 Mistral Small 4，据称该模型在通用聊天、编码、代理任务和推理方面得到了优化。这家法国公司还发布了 Forge，这是一个允许企业构建定制模型的系统，包括可以根据用例权衡取舍的小型模型。
Multiverse 最新的结果也表明，与 LLM 的差距正在缩小。其最新的压缩模型 HyperNova 60B 2602，基于 gpt-oss-120b 构建——这是一个 OpenAI 模型，其底层代码是公开可用的。该公司声称，它现在的响应速度比原始模型更快，成本更低，这一点对于代理编码工作流尤其重要，在这些工作流中，AI 会自主完成复杂的、多步骤的编程任务。
将模型压缩到足够小以便在移动设备上运行，同时保持其有用性，这是一个巨大的挑战。Apple Intelligence 通过结合设备端模型和云模型来规避了这个问题。Multiverse 的 CompactifAI 应用程序也可以通过 API 将请求路由到 gpt-oss-120b，但其主要目标是展示 Gilda 及其未来替代品等本地模型具有超越成本节省的优势。
对于关键领域的从业者来说，一个可以在本地运行且无需连接云的模型提供了更高的隐私性和弹性。但更大的价值在于它可以解锁的商业用例——例如，将 AI 嵌入到无人机、卫星和其他连接性无法保证的场景中。
该公司目前已拥有超过 100 家全球客户，包括加拿大银行、博世和 Iberdrola，但扩大客户群可以帮助它获得更多资金。在去年完成 2.15 亿美元的 B 轮融资后，据传闻，它正计划进行新一轮 5 亿欧元的融资，估值超过 15 亿欧元。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区