AI服务器能源效率测试

AI服务器能源效率测试主要面向搭载GPU、AI加速器或高性能计算处理器的服务器设备，适用于人工智能训练、推理、高性能计算及数据中心集中部署等场景。测试过程中可根据设备配置和实际工作负载，对服务器输入功率、运行功耗、计算性能以及不同负载状态下的能源使用情况进行测量和分析。

AI服务器通常具有较高的计算密度，其功耗会随着GPU利用率、处理器负载、内存及存储活动等运行状态发生明显变化。仅依据额定功率或单一运行状态评价能源效率，难以反映设备实际运行特征。通过设置可重复的计算负载并同步记录功耗与性能数据，可以评价不同工作状态下的能源使用情况，识别异常功耗和测试结果波动，为设备能效验证提供依据。

适用产品

AI服务器能源效率测试适用于不同计算架构和部署形式的人工智能服务器，实际测试范围需要结合服务器硬件配置、加速器类型、工作负载及目标评价要求确定。

GPU AI服务器
AI训练服务器
AI推理服务器
高性能计算服务器
AI计算节点及高密度服务器

检测项目

AI服务器能源效率测试需要同时关注服务器的电能消耗和实际计算性能。测试时根据目标场景设置相应工作负载，在稳定运行阶段同步采集功率、负载状态和性能数据，从而形成不同运行条件下的能源效率评价结果。

检测项目	测试内容/方法	主要验证目的
空闲功耗测试	完成系统启动及规定初始化后，使服务器处于空闲状态，在运行参数稳定后测量输入功率并记录设备状态。	评价服务器低负载状态下的基础能源消耗，识别异常空载功耗。
CPU负载功耗测试	运行规定的处理器计算负载，在不同负载水平下采集服务器输入功率及对应性能数据。	分析处理器负载变化对服务器能源消耗的影响。
GPU或AI加速器负载功耗测试	运行适用的AI计算任务，使GPU或AI加速器达到规定工作负载，稳定后同步采集输入功率和计算性能数据。	评价AI计算负载下的能源消耗及设备运行状态。
不同负载能源效率测试	设置多个计算负载水平，分别记录功耗和对应计算性能，并对各负载点数据进行比较。	分析服务器负载与功耗、计算性能之间的关系，评价不同工况下的能源效率。
性能功耗比测试	在统一计算任务和测试条件下采集服务器性能指标与平均功率，根据项目规定的方法计算单位功耗对应的计算性能。	评价设备单位能源消耗所对应的计算能力，为能效比较提供数据基础。

标准依据

AI服务器能源效率测试的具体依据需要结合产品类型、测试目的和目标市场确定。服务器设备能效评价与数据中心整体能源效率属于不同评价层级，实际测试时应明确测试边界、性能指标及功耗测量范围，避免将数据中心整体指标直接作为单台AI服务器的能效判定依据。

标准编号	标准名称	适用范围
ISO/IEC 30134-4:2017	Information technology — Data centres — Key performance indicators — Part 4: IT Equipment Energy Efficiency for Servers (ITEEsv)	用于服务器IT设备能源效率相关指标的评价，可用于服务器性能与能源消耗关系的分析；具体测试方法应结合项目要求确认。
ISO/IEC 30134-1:2016	Information technology — Data centres — Key performance indicators — Part 1: Overview and general requirements	规定数据中心关键性能指标的总体框架和一般要求，可作为数据中心及IT设备能源效率评价边界确认的参考依据。
Commission Regulation (EU) 2019/424	Commission Regulation (EU) 2019/424 laying down ecodesign requirements for servers and data storage products	适用于欧盟市场范围内符合其产品定义的服务器和数据存储产品，涉及相关能源效率及生态设计要求。

对于AI服务器这类包含GPU或专用AI加速器的设备，具体能效测试方法还需要结合产品配置、计算任务、性能指标及客户技术规范确认。若测试用于认证或市场准入，还应进一步确认目标市场现行法规、产品定义和适用条件。

测试要点

AI服务器能源效率测试对计算任务、硬件配置、软件环境和功耗测量方式较为敏感。GPU利用率、CPU负载、内存使用、风扇控制以及后台进程均可能引起功耗变化，因此测试过程中需要固定样品状态和计算任务，并确保不同测试工况具有可比性。

关注事项	常见问题	说明	解决方案
硬件配置	不同服务器配置直接进行能效比较	GPU数量、处理器型号、内存容量、存储配置及其他硬件差异都会影响计算性能和输入功率。配置不同会使测试数据缺乏直接可比性。	测试前核对完整硬件配置，明确被测设备组成，并尽量保持对比样品配置和测试条件一致。
工作负载	AI计算任务不一致	训练、推理及不同模型任务的计算强度和资源占用不同，同一服务器在不同任务下可能产生明显不同的功耗，因此任务差异会直接影响能效结果。	根据测试目标确定统一工作负载，固定计算任务、数据规模和运行条件，并记录任务参数。
负载稳定性	GPU或CPU利用率持续波动	计算任务启动、数据读取及后台进程会造成负载瞬态变化，功耗也会随之变化。未进入稳定状态时采集的数据可能无法代表目标工况。	设置规定的预热和稳定时间，确认主要计算资源进入稳定状态后再进行有效数据采集。
功率测量	测量位置或采样方式不一致	不同测量点对应的功耗边界可能不同，采样频率和测量设备性能也可能影响瞬时功耗和平均功耗结果。	明确服务器输入功率测量点和功耗统计边界，统一测量设备及采样方式，并记录测试设置。
性能指标	不同测试采用不同性能指标	AI任务可以采用不同的性能评价方式，例如处理吞吐量或任务完成时间。性能指标不一致会影响性能功耗比的计算和比较。	测试前明确性能指标及计算方法，保持性能测试方法与功耗测试方法同步。
重复性	相同任务重复测试结果差异较大	系统温度、风扇转速、后台任务和加速器动态频率调整都会影响功耗。测试状态不一致会降低重复测试结果的一致性。	统一软件和系统状态，关闭无关后台任务，在相同负载和稳定条件下重复测试，并对异常结果进行复测确认。