目 录CONTENT

文章目录

数据中心究竟是如何运作的?

Administrator
2025-10-24 / 0 评论 / 0 点赞 / 0 阅读 / 0 字

📢 转载信息

原文链接:https://www.wired.com/story/uncanny-valley-podcast-how-data-centers-actually-work/

原文作者:Lauren Goode and Michael Calore


今年仅此一项,科技巨头们已在AI数据中心投入了数千亿美元。但随着交易的不断增加,对其可行性和可持续性的担忧也在加剧。Michael Calore和资深记者Lauren Goode与资深作家Molly Taft坐下来,讨论这些耗能巨大的设施究竟如何运作,各方行业利益在哪里,以及在AI时代,这些设施是否能够持续发展。

本集提及内容:
Will Knight撰写的《AI行业的扩张痴迷正走向悬崖》
Will Knight撰写的《OpenAI与AMD的重磅交易押注于对AI近乎无限的需求》
Molly Taft撰写的《数据中心周围正在酝酿一场政治斗争》
Molly Taft撰写的《AI消耗多少能源?知情者不愿透露》

你可以在Bluesky上关注Michael Calore(@snackfight)、Lauren Goode(@laurengoode)和Molly Taft(@mollytaft)。欢迎发送邮件至uncannyvalley@wired.com

如何收听

你可以在本页的音频播放器中收听本周的播客,但如果你想免费订阅收听每一集,可以这样做:

如果你使用的是iPhone或iPad,请打开名为“Podcasts”(播客)的应用,或者直接点击此链接。你也可以下载Overcast或Pocket Casts等应用,搜索“uncanny valley”。我们也在Spotify上。

文字记录

注意:这是一份自动生成的文字记录,可能包含错误。

Michael Calore: 嘿,Lauren。你近况如何?

Lauren Goode: 嗨,Mike。我很好。很高兴能再次回到演播室和你一起录制,因为我们过去几周的日程安排一直未能协调。

Michael Calore: 是的。但现在星星和月亮终于对齐了,我们又在这里相聚了。

Lauren Goode: 是的。我相信我们所有的听众可能都在想:“Lauren和Mike什么时候能再合作?乐队什么时候重组?” 我昨晚又参加了一个AI晚宴。每个人都在谈论AI。每个人都在讨论我们是否处于AI泡沫之中,我认为这在很大程度上是由我们一直看到的关于所有这些AI基础设施项目的报道所推动的。

Michael Calore: 是的,数据中心。

Lauren Goode: 数据中心。

Michael Calore: 塞满了电脑的大仓库。

Lauren Goode: 塞满了服务器机架。

Michael Calore: 我们今天节目中肯定会谈到所有这些。但在我们深入探讨之前,我们必须欢迎今天的嘉宾,WIRED的资深作家兼气候能源专家Molly Taft。Molly,你好。

Molly Taft: 大家好。

Lauren Goode: 嗨,Molly。这是你首次参加Uncanny Valley播客吗?

Molly Taft: 是的,而且我是一个粉丝,所以坦率地说,这对我很重要。我很高兴能来这里谈论我最喜欢的话题,以及人们最近在派对上问我最多的事情。

Lauren Goode: 那是什么?

Molly Taft: 数据中心。就是数据中心。

Lauren Goode: 我以为你要说他们的电费单。

Molly Taft: 它们不是相关联的吗?

Michael Calore: 是的。

Molly Taft: 人们对此非常关注。

Michael Calore: 这是WIRED的Uncanny Valley播客,一档关于硅谷的人员、权力和影响力的节目。今天我们讨论的是AI基础设施的繁荣。近年来,OpenAI、亚马逊、Meta和微软等科技巨头已在数据中心投入了数千亿美元。这些是装满了服务器的大型仓库,为运行AI模型所需的大量计算能力提供支持。OpenAI在德克萨斯州新建Stargate数据中心的公告,或AI初创公司与芯片制造商AMD的交易,都进一步加剧了围绕这些数据中心扩张的炒作和资本投入。但就在交易不断增加的同时,这种快速扩张带来的问题也越来越令人担忧。我们将深入探讨这些数据中心如何运作,它们已经对一些社区产生了什么影响,以及它们揭示了AI行业和我们经济的当前状态。

Lauren Goode: 我是Lauren Goode,资深记者。

Molly Taft: 我是Molly Taft,一名报道能源和环境的资深作家。

Michael Calore: 我想我们可以肯定地说,我们所有人都,包括我们的听众,都在新闻中听说过数据中心,并且对数据中心是什么有一个相当不错的了解。但让我们谈谈为什么AI公司依赖它们。换句话说,我电脑上的ChatGPT查询是如何进入数据中心的?

Lauren Goode: 这是一个很好的问题,我想我们会稍微深入研究一下。

Michael Calore: 太棒了。

Lauren Goode: 好的。假设你在ChatGPT中输入,你想今晚要几个晚餐食谱选项,或者“我明年要给我Mike买什么生日礼物?”

Michael Calore: 祝你幸福。

Lauren Goode: 你发送请求后,它会进入OpenAI服务器。它会先经过几个检查点。比如身份验证,你是一个有效用户吗?审核,这个提示是否合适或符合他们的指导方针?然后是一些负载均衡,即哪个数据中心最终应该处理这个请求?你输入的文字或文本字符串被分解成称为token的小文本块。它们有点像人工智能模型可以处理的拼图块。此时,请求会到达专门的硬件上,在大多数情况下是GPU

Molly Taft: 是的。接下来的部分是关键。GPU,即图形处理单元,对AI系统至关重要。它们是电子卡,非常擅长并行处理,基本上意味着它们可以同时执行多项计算。数据中心里充满了包含这些GPU的金属服务器行。因此,一旦你发送了查询,它就会被这些GPU处理。你可能在科技头条新闻中听到过一些最著名的GPU,比如Nvidia的H100。

Lauren Goode: 啊,H100。孩子们对它们爱不释手。

Michael Calore: 我的老朋友。

Lauren Goode: 然后,我想为了把我们今晚吃什么或者Mike明年生日礼物的查询拉回正轨,一旦查询到达数据中心和服务器,AI模型就开始工作了。这被称为推理时间(inference time)。模型将预测下一个应该出现什么词(以token形式),一个接一个,直到构建出完整的答案。最后,响应通过相同的网络路径返回到你的浏览器或应用程序。这是对所发生情况的非常简化的描述,但从高层次上讲,这就是为什么你的ChatGPT问题或查询需要通过这些数据中心。

Michael Calore: 而且这一切都在几秒钟内发生。

Lauren Goode: 这真是太神奇了。

Michael Calore: 是的。

Lauren Goode: 是的。

Michael Calore: 我喜欢这种分解。另外,仅供记录,我必须说我可能永远不会要求ChatGPT推荐食谱。Lauren,我真的希望你得到了一个好答案来为我挑选生日礼物,因为我已经非常期待了。

Lauren Goode: 你可能还记得我去年也为你的生日做过这件事,但我想我到现在还没有给你买任何东西。

Michael Calore: 嗯,我想如果有人对数据中心有下一个问题,那就是它们有多耗能。因为即使像这样的简单查询,我们谈论的是访问多个不同的服务器。你将查询分解成不同的token,将它们分散到这个数据中心。这些计算需求对环境有什么影响?Molly,我想问你这个问题,因为我知道你对此报道了很多,数据中心的能源消耗是什么样的?我们谈论的只是能源吗?还是也包括水?它看起来是怎样的?

Molly Taft: 大型数据中心内部有很多事情在发生。它们需要冷却系统,需要维持照明,需要运行网络设备。所有这些都会产生大量的能源消耗。它们并非一直以相同的能源水平运行。它们通常根据查询的多少而呈周期性运行,在查询较少的夜间可能会休息一下。数据中心的环境足迹还取决于它们连接到哪种类型的能源。如果你连接到更“肮脏”的电网,一个由化石燃料供电的电网,你将产生更多排放。一个由太阳能或风能供电的数据中心将具有较低的环境足迹。计算特定数据中心的足迹很有趣,因为有关环境影响的许多信息都是专有信息,所以我们工作的大部分内容是公司自愿提供的信息。你会看到一些头条新闻,比如Meta正在路易斯安那州建造一个他们称之为Hyperion的数据中心。这是他们更大规模建设的一部分,预计将消耗约五吉瓦的电力,这是一个巨大的数字,大约相当于纽约市峰值负荷的一半。这是目前在建的最大项目,但还有更多。还有地区层面的估算,世界上一些地方已经开始担心数据中心消耗或预计将消耗的能源量。在爱尔兰,目前数据中心消耗了该国20%以上的电力,这太疯狂了。

Lauren Goode: 哇。

Molly Taft: 弗吉尼亚州也正面临一个巨大的能源悬崖,预计未来几年将消耗更多能源。所以作为一个整体,能源趋势确实在上升。

Lauren Goode: 你提到每家科技公司、数据中心公司都在报告它们的能源使用情况。我很好奇它们深入到哪个层面了。例如,如果它们使用一定数量的GPU,而这些GPU组件必须从世界不同地区运输或制造,这也存在排放成本。所以,它们是否考虑了这一点?

Molly Taft: 是的,气候问题的症结在于,你可以在这个兔子洞里一直往下挖。你所说的涉及排放报告,即你所做事情的总环境足迹是什么?这是气候专家和喜欢计算排放量的人们在涉及特定公司时不断试图弄清楚的问题。而且很多公司不一定想深入探究这个链条。但我认为当我们谈论电力使用时,我们谈论的是现场电力使用。我们谈论的是启动和运行它需要花费多少电量。这些东西的总足迹可能比我们想象的要大得多。

Lauren Goode: 当你提到那些喜欢计算和弄清楚这些问题的人时,我想到了Sasha Luccioni这样的人,她在Hugging Face担任气候主管,她非常直言不讳地批评了这些科技领导者提出的许多数字。

Molly Taft: 是的,Sasha非常善于揭露问题,特别是当模型不太透明,我们不知道一个查询实际上消耗了多少能源时。有些数字被四处散布,Sam Altman今年夏天发表了一篇博文,他说ChatGPT的平均查询大约消耗了一台烤箱开一秒多一点,或者一个高效节能灯泡开几分钟所消耗的能量,大约是0.34瓦时。但Sasha非常正确地指出,这类数据对我们没有太大帮助。当他说“平均查询”时,他指的是什么?有多少这样的查询发生?这些数据中心连接到哪里?它们连接到主要是可再生能源的电网吗?还是连接到使用煤炭的电网?影响这些产品能源使用的因素太多了。Sasha的说法非常到位,她表示Altman是“凭空捏造”了这个数字。她告诉我:“这让我感到震惊,你可以买一辆车并知道它的每加仑英里数,但我们每天使用所有这些AI工具,却完全没有效率指标、排放因子或其他任何东西。” 因此,仅仅一个数字并不能帮助我们了解全貌,而且很多时候可能只是帮助公司推迟发布更多数据。

Michael Calore: 我们没有关于每次查询消耗多少能源以及这些数据中心消耗多少能源的明确指标,除了知道它们消耗很多并且是个问题。即使知道这是一个问题,许多投资AI基础设施的大型科技公司仍在继续建设、建设、再建设。我们谈论了一些大玩家,我们应该确保提到尽可能多的他们。这个领域还有哪些大名鼎鼎的公司?

Lauren Goode: 说实话,我认为最大的就是我们已经提到过的那些,也就是OpenAI、AMD、Nvidia,以及Stargate项目,它有点像一个涵盖了许多不同合作伙伴关系的统称。Stargate项目是OpenAI、软银(SoftBank)、甲骨文(Oracle)和MGX之间一项价值5000亿美元、10吉瓦的承诺,这些都是不同超大规模云服务提供商和芯片制造商之间相互关联的关系。有趣的是,对这些投资的术语或描述方式发生了一点转变,它们被描述为吉瓦级的投资。所以在很多情况下,它们是分阶段的投资。它们是基于AI的需求将继续向上扩展的假设,最终将需要越来越多、越来越多的能源,或者说,我说,更多的计算能力。这不是一个明确的说法,比如“作为这笔投资的回报,这家公司将获得X百万个GPU”。这不是基本的单位报告。

Michael Calore: 好的,你刚才说的一点我想多听听,那就是超大规模扩展(hyperscaling)。因为听起来我们已经在谈论超大规模扩展了,但你说有些公司有兴趣比我们已经谈论的规模更大?

Lauren Goode: 嗯,他们都对进一步增长感兴趣。谁不想呢,Mike?但超大规模扩展指的是这类主要的科技公司或云服务提供商。所以Meta、亚马逊、微软、谷歌都属于这一类。

Molly Taft: 是的,而且我认为重要的是要记住,这些公司非常富有,他们有能力像其他任何人都无法比拟地筹集资金。所以他们能够做一些非常疯狂的事情,快速建设和扩展得非常大。他们现在正变得相当有创意,因为他们现在的目标是快速建造这些设施并投入运营,以便他们能够利用这些物理基础设施来彼此竞争。

Lauren Goode: 我认为Molly说得对。我认为现在有很多“亦敌亦友”式的建设正在发生,我真希望能参与到他们所有宣布消息时的群聊中。

Michael Calore: 是的,说到亦敌亦友,这些公司运作影响力的另一个领域是政治领域。显然,要在某个地方建造一个巨大的数据中心,你需要有这样做的政治意愿,这意味着你需要得到当地居民、地方政府、州和国家的同意。那么,在政治领域,那些希望建造更多数据中心的人和反对他们的人之间,以及监管方面,情况如何发展?

Molly Taft: 这是一个很好的问题,我认为如果你看一下全国性的对话,它与地方层面发生的情况截然不同。华盛顿方面,你显然有一个对美国AI帝国理念非常友好的政府。对能源对话很重要的一点是,特朗普政府处理这种支持的方式是通过支持化石燃料。他们非常希望所有数据中心都由石油和天然气供电,少量核能和煤炭。这对这些行业也很有利。如果你将出现大规模的电力需求扩张,那么处于这一切的中心并成为大家争相寻求能源资源的那个,是非常有利的。另一方面,各地都出现了对数据中心的地方性反对声音,原因各不相同,可能是耗水量、对电费上涨的担忧,也可能是噪音。一些非常重大的斗争已将这个问题推向了全国性讨论。我想到的是埃隆·马斯克的xAI在孟菲斯。当他想让xAI投入运行时,他在一个已经存在严重空气污染和哮喘问题的以黑人为主的社区安装了一批未经许可的燃气轮机,以便让xAI工作起来。那些人表达了自己的意见。今年早些时候,有人试图在华盛顿特区对任何有关AI的国家监管都实行禁令。这是一个包含在最终未能通过的“Big Beautiful Bill”中的极其广泛的条款。但公开反对它的人之一是Marjorie Taylor Greene,她实际上在她的反对意见中提到了数据中心,她将AI与《终结者》系列电影中的虚构AI——天网(Skynet)进行了比较。所以,这让一些奇怪的盟友联合在了一起,我认为这种政府试图推动的政策与一些可能从中获利的大型能源公司,与一些真正草根的地方运动以及担心这些设施将对其社区产生影响的人们之间形成了对比。

Michael Calore: 我们现在要进行一个简短的休息,但回来后我们将深入探讨为什么AI公司对激进的规模扩张押注可能会反噬它们。请继续关注。

欢迎回到Uncanny Valley。今天我们讨论的是AI基础设施的繁荣。现在,Lauren和Molly,我们刚刚讨论了为什么数据中心的投资正在加速以及已知的 But now comes another key question, is all of this aggressive expansion even a good idea? 影响。那么现在就到了另一个关键问题,这种激进的扩张到底是好事吗?

Lauren Goode: 这取决于你问谁,Mike。AI创始人通常会告诉你没有什么可担心的,而且这是满足AI当前和未来需求的必要条件。但显而易见的问题是,尽管有所有这些投资,消费者在AI上的支出尚未跟上。一些前沿模型公司的大部分收入来自实际上正在为其公司构建和使用AI的企业开发人员。我必须想象,这只是我个人的猜测,除非我们成为一个消费者基本上成为开发者的世界,消费者使用AI的程度达到了我们都在构建东西和根据AI编写代码的程度,否则我看不到收入如何能跟上。我还发现一个非常有趣的事情,《经济学人》报道称,AI超大规模云服务提供商——我之前提到过的最大的AI支出方——正在使用一些有趣的会计技巧来压低报告的基础设施支出。这自然就会抬高其利润。所以我想这也是为什么很多人担心可能会出现AI泡沫的部分原因。这关乎供需,而现在我们作为一个国家在供应上花费了太多钱,只是希望需求能持续增长。

Michael Calore: 🤞 祈祷吧。

Molly Taft: 我认为当我们谈论对此的需求时,你必须明白,其背后还有很多事情在发生,而不仅仅是准确地解读预兆。在20世纪90年代末和21世纪初,曾出现过一股关于互联网将消耗多少能源的叙事。有一系列高知名度的文章声称,到2010年代,互联网将消耗美国一半的电力。互联网被描绘成一个巨大的电力消耗者,我们将需要建造更多的燃煤发电厂来应对。有一位非常聪明的研究员约翰·库米(John Koomey)对此进行了深入研究,他发现这种情况主要是被那些可以从中获益的行业推动的。当然,事实并非如此。效率的提高非常显著。互联网实际上并没有消耗那么多能源。我认为我们正处于一个奇怪的时刻,美国的能源使用量基本保持停滞。我们在有效利用现有能源方面做得更好了,我们在提高效率方面做得更好了。突然之间,一个可能成为各个行业(不仅仅是能源行业)的巨大客户出现了。因此,很难判断我们是否处于泡沫之中,因为有这么多人希望人们相信这真的会发生,从而从中受益。

Lauren Goode: 谈到这一点,当你对基础设施进行这种投资时,这是一项非常固定的投资,你基本上是在假设未来一段时间内,计算发生的方式将保持不变。但实际上,我们看到的是,一些计算要求最高的AI模型与较小的模型相比,很快就会提供边际效用递减(diminishing returns)。例如,像OpenAI这样的前沿模型公司,目前比学术实验室的较小模型要好、更智能,但这可能不会永远如此。有很多有趣的研究正在进行。有深度学习的新替代方案,有新颖的芯片设计,还有像量子计算这样的新方法。而且我认为,今年一月份中国DeepSeek模型发布时,其成本出奇地低(据报道),这已经对AI行业起到了一种警示作用。

Michael Calore: 你认为我们作为公民,作为有权决定是否使用AI工具,以及是否有权决定数据中心是否会来到我们州或县的人,我们可以做些什么?

Molly Taft: 我一直在思考这个问题。我猜,我大胆假设,收听此节目的大多数人都是书呆子,喜欢阅读和学习。我喜欢在派对上告诉人们的一件事是,不要只是参与进来,而是要更多地了解你当地的电力公用事业是如何运作的。因为如果一个数据中心来到你所在的地区并影响到你的电费单,那是因为你的公用事业公司。而且美国的公用事业公司以一种非常非常奇怪的方式运作,其中许多是投资者拥有的,所以它们仍然需要为自己创造利润。但它们也控制着你每月电费单上的金额。因此,我认为这个问题可能感觉非常庞大且超出你的控制范围,但你对那些更晦涩难懂的事情了解得越多,你就会发现越多人正在组织起来,即使只是向公用事业公司提出基本要求,要求使用更多可再生能源,要求监控费率上涨。他们将是那些最清楚数据中心是否要来、它可能对你的电费单产生什么影响的人。所以我会鼓励人们多读读关于美国电力公用事业这个迷人话题的内容。

Lauren Goode: 真是太好了。

Molly Taft: 是的。

Lauren Goode: Molly,你会很高兴听到几周前我在亚利桑那州钱德勒参观英特尔的新芯片制造厂…… [内容被截断]




🚀 想要体验更好更全面的AI调用?

欢迎使用青云聚合API,约为官网价格的十分之一,支持300+全球最新模型,以及全球各种生图生视频模型,无需翻墙高速稳定,文档丰富,小白也可以简单操作。

0

评论区