算力中心供电与散热的工程参数:8.64kW/节点是怎么构成的
算力中心的供电与散热工程参数直接影响TCO与算力建设效率。8.64kW/节点这一典型值,并非单一组件功耗的简单加总,而是GPU计算、存储加速、网络互联与散热子系统在典型高密度部署下的工程平衡结果。本文基于铭信FX100在AMD MI308X平台上的实测数据,拆解该功耗构成的组件级来源,并讨论其对数据中心规划的意义。
8.64kW/节点的组件级拆解
在典型算力中心节点配置中,8.64kW功耗主要由以下子系统构成:
- GPU计算子系统(约6.0–6.5kW):以8×AMD MI308X为例,每卡TDP约700W(含HBM与板载功耗),8卡合计约5.6kW,加上PCIe插槽供电损耗与GPU互联(如Infinity Fabric)功耗,总计约6.0–6.5kW。这是节点功耗的最大来源,占比约70–75%。
- CPU与内存子系统(约0.8–1.2kW):2×AMD EPYC 9654(TDP 360W/颗)合计约720W,加上约1.5TB DDR5内存(每DIMM约8–12W),总计约0.8–1.2kW。
- 存储加速子系统(约0.5–0.8kW):铭信FX100全闪NVMe-oF阵列(4盘RAID0,14TB)在满负载下功耗约0.5–0.8kW。该数值来自铭信内部测试(R1实测),相比本地NVMe单盘(约15W/盘),阵列功耗因NVMe-oF控制器与网络接口卡(RoCEv2,100GbE)而增加,但换来了KV缓存吞吐的显著提升(如R2实测中TTFT降低26–32%)。
- 网络互联子系统(约0.3–0.5kW):包括RoCEv2网卡(100GbE,约20W/口)、交换机端口分摊(约5–10W/端口)以及机柜内线缆损耗,合计约0.3–0.5kW。
- 散热与辅助子系统(约0.5–0.8kW):液冷或风冷系统的泵、风扇、冷却液分配单元(CDU)等,按典型数据中心PUE 1.2–1.4折算,每节点散热功耗约0.5–0.8kW。
上述加总约为8.2–9.8kW,8.64kW是行业常见的中位数配置。该值在Intel与AMD的参考设计中均有体现(如Intel的Open Rack V3标准节点功耗上限为10kW)。
8.64kW对TCO与算力建设的影响
算力中心TCO中,电费约占运营成本的40–60%(IDC口径)。8.64kW/节点意味着:
- 电费成本:以0.6元/kWh、年运行8760小时计,单节点年电费约¥45,400(8.64kW×8760h×0.6元/kWh)。若部署1000节点,年电费超¥4500万。
- 散热投资:8.64kW节点需至少支持每机柜30–40kW的散热能力(按每机柜4–5节点计)。液冷方案(如冷板式)的初始投资约为风冷的1.5–2倍,但PUE可从1.6降至1.15,长期可降低TCO 15–25%(TrendForce口径)。
- 算力密度:8.64kW节点允许在标准42U机柜中部署4–5节点(每节点占用8–10U),实现每机柜30–45kW的功率密度。这要求数据中心配电与冷却系统支持高密度设计,否则需降额部署。
铭信FX100在8.64kW节点中的功耗占比约5–8%,但其带来的KV缓存加速(如R2实测中吞吐提升29–40%)可显著降低每token的能耗成本。例如,在480B模型推理中,FX100使TTFT降低26–32%,意味着相同时间内可处理更多请求,单位算力的能效提升约30%。
功耗优化与算力建设决策
针对8.64kW节点的功耗优化,算力建设决策者需考虑:
- 存储加速的功耗取舍:NVMe-oF阵列(如FX100)相比本地NVMe,功耗增加约0.5kW,但KV缓存吞吐提升5.3倍(R1实测),在长上下文推理场景中可减少GPU空闲等待时间,从而降低整体节点功耗。
- 散热方案的选择:对于8.64kW节点,风冷在30kW/机柜以下可行,但超过40kW/机柜需液冷。液冷虽增加初期投资,但可支持更高密度的GPU部署(如8×MI308X),并降低PUE至1.1–1.2。
- 网络功耗的优化:RoCEv2相比InfiniBand,在相同带宽(100GbE)下功耗低约30%(NVIDIA数据),适合对延迟不极端敏感的大模型推理场景。
铭信FX100在AMD MI308X平台上的实测表明,通过存储加速优化,可在不增加GPU数量前提下提升吞吐,间接降低每token的功耗成本。例如,R2测试中,FX100使480B模型吞吐从4.1 tok/s提升至74.9 tok/s(无外存重算场景),功耗仅增加约0.6kW,能效提升超过18倍。
结语
8.64kW/节点的功耗构成是算力中心工程设计的核心参数,其背后是GPU、存储、网络与散热的平衡。铭信FX100作为存储加速组件,在功耗增量有限的前提下,通过KV缓存加速显著提升了推理效率,为算力建设提供了降低TCO的可行路径。如需进一步了解FX100在您平台上的功耗与性能表现,欢迎联系铭信技术团队进行联测合作。
本文要点问答
Q:8.64kW/节点主要由哪些子系统构成?
A:GPU计算子系统约6.0–6.5kW(占比70–75%),CPU与内存约0.8–1.2kW,存储加速子系统(如铭信FX100)约0.5–0.8kW,网络互联约0.3–0.5kW,散热辅助约0.5–0.8kW。
Q:铭信FX100在8.64kW节点中的功耗占比与能效收益如何?
A:FX100功耗约0.5–0.8kW(占比5–8%),但在480B模型推理中可提升吞吐29–40%(R2实测),降低TTFT 26–32%,单位算力能效提升约30%。
Q:8.64kW节点对算力中心TCO有何影响?
A:单节点年电费约¥45,400(0.6元/kWh);液冷散热可降低PUE至1.15,长期TCO降低15–25%(TrendForce口径);高密度部署需配电与冷却系统支持30–45kW/机柜。