摘要

  • 按模型任务、硬件、地点、时间和有效输出报告能源，包括空闲与冷却开销。
  • 效率提升应与用量增长、电网约束、用水和备用电力影响一起检查。

AI 用电来自密集计算、内存移动、网络和冷却，训练与提供服务的曲线差别很大。更高效芯片可以降低单次请求能耗，总需求却可能因规模扩大而上升。下一项有效证据，是从工作负载调度器到设施和电网时间区间的可审计计量链，并与服务质量配对。运营方据此按真实边际成本移动、缩小或停止负载，而不是依据年度平均值。

来源