JOTO GLOBAL
← 资讯中心

AI 数据中心用电增长,服务器与存储选型该看哪些指标?

把宏观用电预测转为本机房可测量的算力、存储、电力与扩容指标。

机架服务器设备

宏观预测不能代替机房实测

美国伯克利国家实验室估计,2023 年美国数据中心用电约 176 TWh,占全国用电约 4.4%。其 2025 年更新报告给出 2030 年占比 11.8% 的参考情景,情景范围为 9.5% 至 15.3%。这些数字描述的是美国整体,不是某栋机房的预算值。采购前应先测量本地供电、机柜容量、制冷余量和目标工作负载。

比较完整方案的实际产出

服务器要在目标模型规模下记录吞吐、延迟、峰值与常态功耗、加速器利用率、内存容量和维护方式。存储要看扣除保护开销后的可用容量、持续带宽、延迟、耐久性、恢复时间与扩容上限。单看设备标称参数或采购单价,容易忽略额外机柜、供电和停机成本。应让候选方案跑同一组业务负载再比较。

先区分训练、推理与普通数据处理

同样叫 AI 项目,夜间批量训练、面向员工的知识检索和实时客服推理,对资源的要求并不相同。以下是规划示例而非客户实测:知识检索系统可能同时受文档处理、向量查询和模型响应影响,单独提高加速器算力未必缩短用户等待。业务负责人应先写清使用人数、并发方式、输入长度、响应质量、等待时间和数据更新频率,再由技术团队拆出计算、内存、存储与网络的约束。

测试范围还要包含低负载与高峰,而不仅是最理想的满载状态。明确哪些工作可以排队,哪些需要持续在线,哪些能转到现有资源。若业务量仍不确定,先以可扩展试点取得证据,比按最乐观的需求预测一次购买完整规模更便于调整。

让候选方案运行可比的测试

为所有候选方案固定模型或软件版本、数据集、精度设置、并发、预热条件和测试时长,保留失败请求与异常日志。如果供应商采用不同的量化方式或删减输入,应单独说明对结果质量的影响,不能只把更高吞吐放在同一列比较。验收也不能只看平均延迟;应关注业务关心的慢请求和高峰期表现,并约定统计方法。

测试负责人保存参数、原始结果及环境说明,业务团队检查输出质量,基础设施团队检查资源使用与稳定性。测试数据应经过授权和必要处理,不为演示方便把真实敏感资料交给未经批准的环境。无法复现的演示数字可以作线索,不能直接成为采购承诺。

把功耗与有效产出放在同一边界内

比较功耗时先说清测量对象:单个加速器、整台服务器、机柜还是包含制冷的设施,不能把不同边界的数字相除。记录待机、典型负载和峰值状态,并注明测量时间与仪表位置。评估单位有效请求或单位完成任务的能耗时,应排除失败输出,同时保持相同质量条件,避免用降低质量换取表面节能。

设施负责人核对配电容量、冗余条件、机柜承重、风道或液冷要求以及维护空间。设备额定功率不能直接当作全年平均耗电,短时测试的平均值也不能代替容量安全校核。涉及供配电和制冷改造时,应由具备相应能力的专业团队设计与验收,采购团队不应仅凭服务器参数确认机房可用。

存储要覆盖数据进入到退出的全过程

把原始数据、训练或索引中间结果、模型文件、日志、快照和备份分开估算。标称容量需要扣除保护与预留开销,压缩或去重收益则应以代表性数据验证。对于大量小文件、随机查询和连续读取,应分别观察相应行为,不能用一次大文件顺序拷贝代表全部工作负载。

还要测试节点故障、重建或备份进行时的服务表现,记录恢复操作对正常任务的影响。数据负责人确认保留期限与删除要求,存储负责人说明扩容步骤和兼容边界。采购表应写清哪些容量可以立即使用,哪些依赖后续许可、设备或停机操作,避免上线后才发现报价覆盖范围不足。

用完整成本与触发条件制定扩容计划

成本表除设备外,应列入网络、机柜、供电制冷改造、软件许可、支持、备件、运维人员及迁移停机。若比较自建与外部服务,使用相同的业务量和观察周期,并说明数据传输、资源闲置和退出成本等假设。估算是决策依据,不应被包装成必然实现的节省金额。

扩容触发条件可以来自持续出现的排队、可用容量余量下降或维护窗口不再足够,但具体阈值需结合本地数据确定。为正常需求和高增长分别写明采购提前量、安装条件和备用方案。不要等容量耗尽才确认配电或交付周期,也不要把尚未批准的设施扩建算作现成资源。

验收交付的是可运行的工作负载

上线验收应同时保留性能、输出质量、功耗、稳定性和恢复能力的证据,并核实监控、告警、支持升级与维护说明已交接。业务负责人签收工作结果,技术负责人签收运行条件,设施负责人确认相应环境边界。未完成的条件应列出负责人和处理期限。

宏观报告能说明需求与电力约束的背景,无法替企业选择型号或保证投资回报。本文的比较方法是 JOTOglobal 的实施建议;报告名称中的“2025 Update”是版本名称,其官方页面标注发布时间为 2026 年 6 月,引用时应避免把版本年份与实际发布日期混为一谈。

先画扩容边界,再签采购单

列出可用配电、网络端口、地面空间、制冷能力与交付周期,分别测算正常需求和高增长情景。写明哪些指标越界会触发扩容或机房改造,并在上线后用监测数据校正假设。宏观研究说明为什么电力约束值得重视,真正决定选型的仍是本地测量和业务目标。

参考资料

United States Data Center Energy Usage Report: 2025 Update

https://datacenters.lbl.gov/publications/united-states-data-center-energy-2025

2024 United States Data Center Energy Usage Report

https://seta.lbl.gov/publications/2024-lbnl-data-center-energy-usage-report