D1.1 · AI数据中心究竟是什么,如何运作
讨论储能或电网容量之前,必须先理解电力究竟在支撑什么业务。AI数据中心把计算、数据传输、电力供应与排热组织在一起,交付可用的数字服务。本课从一项任务进入数据中心讲起,解释训练与推理有什么不同,再把这些活动与设施的能源需求联系起来。学习本课不以具备电气工程背景为前提。
建议先顺序阅读概念和系统关系,再独立完成工作坊。关键术语会在正文中结合功能解释;遇到尚不理解的题目,请返回对应章节,先说明原因,再进行计算。
完成这节课后,你应能作出哪些判断?
- 用一个完整服务过程解释计算、存储、网络、供电与冷却各自的作用。
- 区分模型训练、微调与推理,并理解它们不一定具有相同的负荷曲线。
- 在正确边界上理解IT容量、设施用电需求与能源效率指标。
- 说明为什么可用电力、业务连续性、冷却能力与商业授权必须一起考虑。
先看计算服务如何完成
用户与数据
用户提出任务;存储提供输入、模型文件与结果保存位置。
协同计算
CPU、加速器、内存与网络共同完成训练或推理。
可用业务结果
结果必须按约定时间、质量和可用性返回,服务才算交付。
再看支撑服务的能源路径
获准电源与配电
电网或场内电源经开关、变压器和配电系统提供电力。
设备用电与转换
IT执行计算;UPS、风机和水泵等支持系统也需要电力。
持续排热
空气或液体把热带走,排热系统必须在相应状态下保持可用。
1. 数据中心交付的是可靠计算服务,不只是一栋放服务器的楼
本课把执行数字业务的服务器、存储和网络等统称为信息技术(Information Technology,IT)设备。服务器执行计算和软件;存储保存软件所需的数据与模型文件;网络在用户、存储和服务器之间传送请求及结果。数据中心把这些设备安置起来,并提供电力、环境条件、物理安全和运维,使它们能够持续使用。因此,一栋已经通电但机柜空置的建筑,与正在提供计算服务的数据中心不是同一回事。
例如,客户上传一张图片,要求识别产品缺陷。请求必须到达正在运行的模型,模型要取得参数和输入,由加速器完成计算,再在客户要求的时间内返回结果。如果服务器有电,却读不到模型文件或无法联网,服务仍然失败。真正要交付的是及时完成的有效任务,而不只是插座带电。
这一区别也解释了为什么能源项目应从服务要求开始。运营方必须说明什么服务需要持续可用、可以接受多长延迟或中断,以及依赖哪些支持系统。只有这些问题明确之后,才能判断哪些负荷关键、哪些负荷允许调整。
2. “AI”描述计算任务,并不对应唯一一种建筑形态
人工智能(Artificial Intelligence,AI)是一大类计算方法,机器学习(Machine Learning,ML)是其中一种:模型从样本中学习规律,而不只是逐条执行程序员手写的判断规则。模型内部包含数值参数,用来决定怎样把输入转化为输出。本课程所说的AI数据中心,是承载较多AI计算任务的设施,并不意味着建筑本身可以自主运行。
AI集群是一组协同处理任务的计算节点。节点可能配置中央处理器CPU、图形处理器GPU或其他加速器。CPU承担通用计算与协调,加速器则能并行执行大量适合的运算;内存把工作数据放在处理器附近,存储负责保存更大的数据集与文件。如果数据传输成为瓶颈,只增加更快的处理器,也不能相应提高有效产出。
一个设施可以混合AI与传统业务。有些AI推理运行在CPU或较小的边缘系统上,而大型训练可能依赖高密度加速器集群。因此,“支持AI”不是完整的电气技术条件;仍须明确硬件数量、机柜功率、网络与存储配置、利用率及扩容计划。NVIDIA的基础设施说明,也将计算、网络、存储、供电和冷却作为一套集成体系介绍。[1]
3. 训练改变模型,推理使用已经训练好的模型
训练时,系统把样本交给模型,计算输出,与训练目标比较,再调整模型参数。这个过程会针对很多批次反复进行。分布式训练中,多台设备还可能交换中间信息,使共享模型的更新保持一致。因此,计算、通信和保存进度可能按不同阶段发生,而不一定形成恒定的用电需求。
微调是在已有模型基础上继续训练,使其适应较具体的任务或数据。推理则不同,它使用已部署模型处理新输入,生成回答、预测或分类。对话应用可能逐步生成答案,质检模型则可能给图片分类;两者都属于推理,但对延迟、吞吐量和硬件的要求可能差别很大。
把训练一概视为灵活、把推理一概视为不可调节,过于粗糙。训练可能受到交付期限、昂贵重启或协同约束;批量推理可能允许延迟,实时用户请求却未必允许。必须针对具体任务确认是否授权调整,并考虑暂停、保存检查点、重启和恢复的后果。
4. 同时追踪信息、电力与热量三条路径
信息通过网络进入,从存储读取,由服务器处理,再以结果形式送出。电力则从公用事业接入点或获准的场内电源进入,经过开关设备、变压器和配电设备,最终送到服务器电源。两条路径有关联,但并不相同:一项网络请求不是电力调度指令。
计算设备消耗的电能,大部分最终在设施内转化为热量。空气或液体把热从芯片与机柜带走,机械系统再将其排向环境,或回收一部分供其他用途。冷却本身也需要风机、水泵,以及适用情况下的压缩机用电。液冷改变的是传热路径,不会使热量消失,也不自动消除所有机械能耗。
因此,实际运行能力取决于哪项约束先达到上限。机房可能有电气余量,却在要求的环境条件下没有足够排热能力;也可能冷却有余量,却没有获批电网容量。扩容必须同时检查这两条路径及其共用支持系统,不能把变压器额定值当作设施的全部能力。
5. 区分芯片功率、IT容量与设施用电需求
芯片标示功率不是整台服务器功率,服务器功率也不等于机柜或机房总用电。内存、网络、存储及电源转换损耗,会在设备边界继续增加需求;到设施层面,还包括冷却及其他支持负荷。因此,项目自称“20 MW数据中心”时,首先应问这20 MW具体包含什么。
已安装容量描述装了多少设备,合同或获批容量描述权利或限制,运行需求描述某一时刻实际消耗多少;三者可以不同。为未来机柜预留的机房,不会从第一天起就消耗全部设计功率;而合同接入限制,也可能使所有已安装设备无法同时满负荷运行。
功率是能量使用的速率:1 MW维持1小时,消耗1 MWh。10 MW进口许可不是储存了10 MWh,也不单凭这个数就承诺停电期间仍然可用。同样,一套10 MWh电池并没有告诉你它的变流器能够输出多少功率。容量权利、瞬时功率、能量与连续性,应始终作为四个不同问题处理。
6. PUE说明能量边界,不能概括整个业务表现
电能使用效率PUE,是在相同边界和期间内,设施总能量除以IT设备能量。假设某设施全年使用78 GWh,其中IT设备使用60 GWh,则年度PUE为1.30;在该定义边界内,其余18 GWh属于非IT部分。这个计算本身没有说明完成了多少有用AI任务。
较低PUE可以反映支持系统更高效,但比较时仍须考虑气候、负荷水平、计量及运行条件是否一致。一个利用很差的集群,也可能拥有不错PUE,却产出很少有效工作。电力碳强度、用水、可靠性与成本,也都需要独立指标。美国能源部设计指南,将IT、冷却、电气系统和绩效指标作为相互关联的设计问题处理。[2]
不能把年度能量比值直接乘以IT峰值,就声称证明了设施峰值。冷却及电气附加用电在那个瞬间的关系,可能与年度平均不同。初步计算可以采用明确写出的同时功率假设,但在获得时间对齐的实测或经过验证的设计模型之前,应始终标为假设。
7. AI可能改变密度与协同程度,却不规定唯一负荷形状
当更多计算能力集中在一只机柜中,局部配电和排热任务会提高。如果许多加速器同步执行相同阶段,电气变化也可能同步;但不同任务组合、利用率、编排方式与功率控制,又可能平滑或强化这些变化。因此,仅凭AI标签,公用事业无法知道应该按什么峰值、爬坡率或持续时间设计。
公用事业计量表的15分钟平均值,可以支持能量或账单分析,却可能掩盖更快事件;机柜测量能够发现局部事件,却不能证明它会原样传到电网。美国能源部2026年关于振荡监测的讨论,说明了测量带宽与滤波为何重要。[3] 在理解服务与系统边界之后,第三课会继续展开这一问题。
公共连接点(Point of Common Coupling,PCC)是场站与外部网络之间约定的连接边界。资料请求应从具体问题开始,例如“这个集群启动任务时,有多少负荷变化传到PCC”,而不是笼统索取“AI曲线”。同时询问任务状态、计量位置、时间分辨率及冷却同期行为,才能让数据服务于一个明确判断。
8. 业主、设施运营方与算力客户,关注的目标可能不同
托管设施提供方可能负责空间、电力与冷却,租户拥有服务器并控制任务;超大规模运营方可能掌握更多完整体系;开发商则可能还在争取接入,尚未签下算力客户。因此,提出能源方案需求的人,不一定有权暂停计算,或把备用设备承诺给电网服务。
服务水平协议SLA,把业务期待转化为可用性、响应或恢复等义务,但它不会自动给出满足这些义务的电气设计。IT团队、设施团队与能源供应方必须共同把协议转化为负荷分组、中断限值、热限值及恢复优先级。
这也解释了为什么某些看起来便宜的节能机会并不被接受。暂停任务也许节省少量电费,却可能延误合同交付,或让昂贵算力闲置。应把能源收益与真实服务后果比较,并取得有权主体的决定,而不是假定所有技术灵活性都可以商业使用。
9. 电网、UPS、储能和发电机,解决的是不同问题
电网通常依据接入安排提供持续能量。不间断电源(Uninterruptible Power Supply,UPS)通过转换系统与储能,在规定输入扰动下维持其所连接负荷的供电。独立电池储能系统(Battery Energy Storage System,BESS)则可能承担削峰或较长能量任务,具体取决于接入和控制。发电机把燃料转成电力,但需要经过验证的启动、切换与负荷接受过程。
在经过设计的系统中,这些功能可以重叠,但设备名称本身不能证明已经具备相应能力。一套园区电池即使MWh足够,如果位于已断开开关的上游,也不能因此支撑下游负荷。发电机的MW铭牌,也不能证明它能接受所需阶跃负荷或启动冷却系统。叠加容量之前,必须追踪电气与控制路径。
所以,设施需求与电网容量之间长期存在较大缺口,并不自动构成电池项目。电池转移能量,必须取得这部分能量并恢复备用。可考虑的响应包括分期入驻、确认增容、经授权的任务限额,或适当获准的稳定电源;应根据持续时间、运行及商业约束选择,而不是先选热门技术。
工作坊:根据已知输入形成判断
请先独立完成以下任务,再展开参考解答。
- 解释训练与推理分别怎样参与服务,并举例说明哪种支持系统故障能在服务器不断电时使服务停止。
- 计算当前需求、当前进口余量与后续阶段缺口,并解释为什么“20 MW就绪”不能回答这些问题。
- 计算年度PUE,并说明它无法证明哪类运行判断。
- 解释谁必须授权任务灵活性,以及选择能源方案之前需要哪些证据。
解答1 · 先描述服务链,再列设备
训练形成或更新模型参数,推理使用部署好的模型回答新请求。两者还依赖可用的数据路径与可接受的热条件。网络故障若使设备无法访问存储或送出结果,即使服务器不断电,服务也会停止;冷却丢失也可能在供电持续时触发降频或关机。
这一步应形成的交付物是:一份把客户结果与计算、数据、供电和冷却关联起来的服务图。
解答2 · 把运行平衡与宣传名称分开
当前IT需求为6+2=8 MW,设施总需求为8+2.4=10.4 MW,因此算术进口余量为12-10.4=1.6 MW。但这还不能作为可使用的扩容额度,因为设备额定值、备用和冷却仍待核实。
后续阶段需求为12+3=15 MW,相对于已说明的限额缺3 MW。“20 MW就绪”可能指未来装修容量或另一个边界,必须索取定义与证据;不能把UPS或电池铭牌加到12 MW进口权利上,也不能假定它们创造了持续能量。
这一步应形成的交付物是:一份注明计量边界和待核实冷却条件的当前及后续分期平衡。
解答3 · 年度比值不能确定峰值
年度PUE为78/60=1.30,非IT年度能量为18 GWh。这些值描述的是独立的全年数据。12 MW乘以1.30所得15.6 MW,只是一个假设数,不是已证明的后续阶段峰值。本案例给出的后续同时平衡是15 MW,真实峰值与瞬态要求还需要时间对齐的数据或有依据的模型。
这一步应形成的交付物是:一份注明期间、边界及PUE解释限度的指标说明。
解答4 · 承诺灵活性之前,先取得服务授权
任务由租户控制,所以建筑业主不能在缺少相应合同授权时承诺暂停。应请租户说明哪些服务允许延迟、重启如何影响交付;请设施团队提供单线图、冷却边界和故障任务;请接入责任方说明容量条件及可信增容时间。
取得这些答复后,才能比较分期运行、获批任务限制、接入增容及获准场内供电。现有证据足以确认后续阶段存在约束并请求资料,但不足以确定电池选型、保证可用性或声称投资回报。
这一步应形成的交付物是:一份由租户、设施运营方与电力接入责任方分别负责回复的证据请求。
本课最重要的判断
AI数据中心是一个服务系统:计算与数据传输依赖持续电力和排热。先定义服务、运行边界与已获授权的灵活性,再选择能源架构。
来源与适用范围
本课于2026年10月25日核阅。原始资料用于背景学习,正文标有来源编号的陈述请对照下列文件;案例、计算和行动建议为本站教学推演。它们不替代具体场站规范、网络许可或合同审查。
[1] NVIDIA · What Is AI Infrastructure? · infrastructure background ↗
[2] U.S. DOE FEMP · Best Practices Guide for Energy-Efficient Data Center Design · 2024 ↗
[3] U.S. DOE · Monitoring Oscillations from Large Data Centers · 28 May 2026 ↗
Further reading · DOE SEAB · Powering AI and Data Center Infrastructure · July 2024 ↗