📢 转载信息
原文作者：Marina Temkin
在AI基础设施领域，一个模式正在浮现：流行的开源工具正在蜕变为价值数亿美元、获得风险投资支持的初创公司。最新的例子是RadixArk，这家商业公司是SGLang的幕后推手，SGLang是一个日益流行的工具，可以帮助AI模型运行得更快、成本更低。
据两位知情人士透露，RadixArk在Accel领投的一轮融资中，估值达到了约4亿美元，对于这家仅在去年8月才宣布成立的初创公司来说，这是一个值得关注的数字。TechCrunch无法确认本轮融资的具体金额。
此消息传出之际，负责维护SGLang（xAI和Cursor等公司用于加速AI模型训练的工具）的团队已转入这家新近成立的商业初创公司。RadixArk起源于2023年Databricks联合创始人Ion Stoica在加州大学伯克利分校实验室中的SGLang项目。
据知情人士透露，该公司此前已从包括英特尔CEO Lip-Bu Tan在内的投资者那里获得了天使轮资金。
SGLang的关键贡献者、前xAI工程师Ying Sheng，根据她上个月在LinkedIn上发布的帖子，已离开埃隆·马斯克的AI初创公司，成为RadixArk的联合创始人兼首席执行官。Sheng此前是Databricks的研究科学家。
RadixArk的Ying Sheng、Accel以及Lip-Bu Tan均未回应置评请求。
SGLang和RadixArk都专注于优化推理处理——本质上是让模型在相同硬件上运行得更快、更高效。推理与模型训练一起，构成了与AI服务相关的服务器成本的很大一部分。因此，优化该流程的工具可以几乎立即创造巨大的节省。
RadixArk并非唯一一个完成这种从开源项目到融资充足的初创公司转型的例子。vLLM，一个更成熟的推理优化项目，也已实现了飞跃。据Forbes上个月报道，这家新成立的公司已就以约10亿美元的估值筹集超过1.6亿美元资金进行了洽谈。
三位熟悉该交易的人士告诉TechCrunch，Andreessen Horowitz正在领投对vLLM的投资，尽管该投资的最终数字尚待观察。Andreessen Horowitz拒绝置评。vLLM联合创始人Simon Mo在一份声明中向TechCrunch称有关此轮融资的信息“事实不准确”，但他拒绝说明哪些细节不正确。
与SGLang一样，vLLM也是在Ion Stoica位于加州大学伯克利分校的实验室中孵化的。Stoica是加州大学伯克利分校的教授，也是Databricks以及其他几家初创公司的著名联合创始人。
CRV的普通合伙人Brittany Walker告诉TechCrunch，一些大型科技公司已经在使用vLLM来处理其推理工作负载，SGLang在过去六个月中也获得了显著的欢迎。她的公司没有投资这两家公司。
RadixArk正在继续开发SGLang作为一个开源的AI模型引擎。该公司还在构建Miles，这是一个专为强化学习设计的专业框架，它使企业能够训练AI模型以随着时间的推移变得更智能。
虽然其大部分工具仍然免费，但据一位熟悉该公司的人士透露，RadixArk已开始为托管服务收费。
为开发人员提供推理基础设施的初创公司在近几个月获得了资金激增，凸显了推理层对于AI持续重要性。《华尔街日报》周二报道称，Baseten以50亿美元的估值获得了3亿美元的融资。这紧随竞争对手Fireworks AI的类似举动，后者去年10月以40亿美元的估值筹集了2.5亿美元。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区