📢 转载信息
原文链接:https://www.wired.com/story/ai-boom-networking-technology-photonics/
原文作者:Lauren Goode
新时代的硅谷靠的是网络技术——而且不是你在领英上找到的那种。
随着科技行业向AI数据中心投入数十亿美元,芯片制造商们,无论大小,都在加速围绕连接芯片与芯片、服务器机架与服务器机架的技术进行创新。
网络技术自计算机诞生以来就已存在,它在关键时刻连接主机以共享数据。在半导体领域,网络几乎在堆栈的每个层面都发挥着作用——从芯片本身上晶体管之间的互连,到芯片盒子或机架之间的外部连接。
像英伟达(Nvidia)、博通(Broadcom)和美满电子(Marvell)这样的芯片巨头在网络领域早已声名远播。但在AI热潮中,一些公司正在寻求新的网络方法,以帮助它们加速流经数据中心的巨量数字信息。深科技初创公司,如Lightmatter、Celestial AI和PsiQuantum,它们利用光学技术来加速高速计算,正是在这个领域发挥作用的。
光学技术,即光子学,正迎来一个成熟的时刻。据PsiQuantum联合创始人兼首席科学官Pete Shadbolt介绍,这项技术曾被认为“乏味、昂贵且用处不大”,持续了25年,直到AI热潮重新点燃了人们对它的兴趣。(Shadbolt在上周WIRED共同主持的一个小组讨论会上露面。)
一些风险投资家和机构投资者,希望抓住下一波芯片创新的浪潮,或者至少找到合适的收购目标,正向像Lightmatter这样的初创公司投入数十亿美元,这些公司找到了加速数据吞吐量的新方法。他们认为,依赖电子的传统互连技术根本无法跟上不断增长的高带宽AI工作负载的需求。
“如果你回顾历史,网络技术一直很无聊,因为它只是在交换比特包,”长期技术分析师、研究公司Creative Strategies首席执行官Ben Bajarin说。“现在,由于AI,它必须处理相当稳健的工作负载,这就是为什么我们看到了围绕速度的创新。”
巨大的芯片能量
Bajarin和其他人认为,英伟达在多年前进行了两次关键的技术收购,体现了其对网络重要性的先见之明。2020年,英伟达斥资近70亿美元收购了以色列公司Mellanox Technologies,该公司为服务器和数据中心制造高速网络解决方案。不久之后,英伟达又收购了Cumulus Networks,为其基于Linux的计算机网络软件系统提供支持。这对英伟达来说是一个转折点,它正确地判断出,当GPU及其并行计算能力与其他GPU集群并置于数据中心时,其威力将大大增强。
虽然英伟达在垂直整合的GPU堆栈中占据主导地位,但博通已成为定制芯片加速器和高速网络技术中的关键参与者。这家市值1.7万亿美元的公司与谷歌、Meta以及最近的OpenAI在数据中心芯片方面密切合作。它也处于硅光子学的前沿。上个月,《路透社》报道称,博通正在准备一款名为“Thor Ultra”的新型网络芯片,旨在为“AI系统与数据中心其余部分之间提供关键连接”。
在上周的财报电话会议上,半导体设计巨头ARM宣布计划以2.65亿美元收购网络公司DreamBig。DreamBig与三星合作生产AI小芯片(chiplets)——即小型、模块化电路,设计用于封装在更大的芯片系统中。ARM首席执行官Rene Haas在财报电话会议上表示,这家初创公司拥有“非常适合扩展和横向扩展网络”的“有趣知识产权”。(这意味着在单个芯片集群内部连接组件和发送数据,以及将芯片机架与其他机架连接起来。)
光芒闪耀
Lightmatter首席执行官Nick Harris曾指出,AI所需的计算能力现在每三个月翻一番——远快于摩尔定律规定的速度。计算机芯片正变得越来越大。“当你处于你可以制造的最大芯片的最前沿时,之后所有的性能都来自于芯片之间的链接,”Harris说。
他公司的做法是前沿的,不依赖于传统网络技术。Lightmatter制造用于连接芯片的硅光子学器件。它声称制造出了“世界上最快的光子引擎”用于AI芯片,本质上是一个由光基互连技术连接的硅三维堆栈。在过去的两年里,这家初创公司从GV和T. Rowe Price等投资者那里筹集了超过5亿美元。去年,其估值达到了44亿美元。
“计算的未来确实关乎光,”Harris说。“你当然会有电子设备,软件也是这个领域绝对关键的一部分,但在这种级别的计算中,你需要新的想法,而计算机的新前沿很大一部分就涉及光。”
初创公司Celestial AI也因其光互连技术吸引了关注和投资者的目光。今年早些时候,它从Fidelity Management、BlackRock、Tiger Global Management、淡马锡(Temasek)、AMD等公司筹集了2.5亿美元。英特尔首席执行官Lip-Bu Tan最近加入了该公司的董事会。九月份,PsiQuantum从BlackRock、Ribbit Capital以及英伟达的风险投资部门NVentures筹集了10亿美元。PsiQuantum利用光技术构建量子计算机芯片,目前的估值为70亿美元。
不过,光网络技术并非稳操胜券。它构建起来很昂贵,需要高度专业化的设备。它还必须能够“插入”到现有的电气系统中。
Bajarin指出,像博通和美满电子这样的公司拥有专业知识和资源,可以与超大规模用户合作,满足他们在AI数据中心芯片和网络方面的特定需求。无论他们使用的是传统网络技术还是更前沿的光子学,这些公司都知道如何进行规模化扩展。Bajarin说:“网络是让计算机正常运行的关键,但感觉行业正朝着需要更多定制化的方向发展,这对小型公司来说可能更困难。”
但这并不意味着这些新进入者没有有价值的知识产权,他补充道。对更快数据速度,以及因此更好的网络技术的需求只会增长。但对于实验性初创公司来说,回报可能还需要几年时间才能实现。“我们都相信,未来将是一个光子学的世界,”Bajarin说,“但我们还有很长一段路要走。”
这是Model Behavior 时事通讯的一期。过往期刊请见这里。
🚀 想要体验更好更全面的AI调用?
欢迎使用青云聚合API,约为官网价格的十分之一,支持300+全球最新模型,以及全球各种生图生视频模型,无需翻墙高速稳定,文档丰富,小白也可以简单操作。
评论区