结论先说：AI 推理芯片的能效比在低负载区间普遍失真，原因不是厂商测错，而是测试工况与真实业务分布不匹配。天天看球在整理技术参数时发现，同一颗芯片在 20% 负载与 80% 负载下的每瓦吞吐差距可以拉开数倍，而多数规格书只给一个满载参考值。想读懂这组数，得先看清能效曲线的三个断点。

一、能效比的分子分母，在低负载时各自变形

能效比通常写成「每秒推理次数 ÷ 功耗」，分子是吞吐，分母是整卡或整机的功耗。满载时两者都稳定，比值可信；低负载时，分母里有一块几乎不随负载下降的静态功耗，分子却随批次规模线性缩水，比值自然被拉低。

天天看球在对比多份公开规格书后总结出三类固定开销：显存控制器的待机功耗、互连 PHY 的常开功耗、以及供电模块在轻载下的转换效率下滑。这三项在满载时被摊薄，在低负载时占比迅速上升。也就是说，低负载能效差不代表架构差，而代表静态开销占比高。

  • 静态功耗占比：轻载下可能超过总功耗的四成，直接压低比值。
  • 批次规模：单 batch 推理无法填满计算阵列，吞吐分子偏小。
  • 供电效率：轻载区间的转换效率通常低于额定负载点，示例数据中可差 5 到 12 个百分点。

二、三个断点决定曲线形状，而不是一个平均值

把能效比画成随负载变化的曲线，会看到三个明显断点：计算阵列开始饱和的拐点、显存带宽成为瓶颈的拐点、以及互连开始限制多卡扩展的拐点。天天看球建议用这三个断点代替单一均值做对比，因为它们分别对应三类真实业务。

第一个断点之前，芯片受限于调度与启动开销，能效比爬升缓慢；跨过拐点后进入线性区，此时能效比最接近规格书标称值；再往后显存带宽先饱和，能效比增速放缓；多卡场景下互连再饱和，整机口径的能效比会明显回落。选型时若业务以低并发在线推理为主，真正该看的是第一段斜率，而不是峰值。

  • 单卡单批：看第一段斜率，反映调度与静态开销控制水平。
  • 单卡多批：看线性区高度，反映计算与带宽的配比是否均衡。
  • 多卡扩展：看互连饱和后的回落幅度，反映集群口径的真实能效。

三、可复现的对比口径，比排名更有用

要让能效数据可比，至少固定四件事：模型与精度、输入输出长度分布、批次大小、以及功耗的测量位置。天天看球在技术解读栏目里反复强调，功耗测在板级还是整机级，结论可能完全相反，因为电源与风扇的损耗在轻载时占比更高。

具体做法是：先用固定长度分布压出稳定的每秒推理次数，再在同一时间窗口内读功耗，最后按负载点画出曲线而非取平均。对于多卡方案，还要单独标注互连口径，是卡间直连还是经交换节点，两者的能效曲线在中高负载段会分叉。天天看球整理方案对比资料时，会把这三个口径写在表格抬头，避免读者拿不同口径的数直接相减。

四、适用边界：什么时候能效比不该当第一指标

能效比适合筛选长期满载、电费敏感的场景，比如批量离线推理。但对延迟敏感的在线服务，低负载区间的能效失真反而说明该优先看尾延迟与调度开销；对多卡集群，互连效率往往比单卡能效更能决定整机表现。

天天看球的建议是：把能效比当作一条曲线而不是一个数，先确认业务落在哪一段，再决定是否用它做排序。若业务分布跨越两个断点，就该用加权口径，按实际请求占比对各负载点的能效做加权，而不是简单取峰值。这样得到的数不一定好看，但更接近真实电费账单。

最后补一句方法论：任何能效数字都要带着工况一起读。天天看球在后续的技术解读里会继续用这种「结论前置加边界说明」的写法，帮读者把参数还原成可判断的依据。