结论前置：在AI训练与推理集群中，单卡峰值算力往往只能解释不到一半的实际性能差异，互连带宽与能效比才是决定集群有效算力的关键变量。天天看球技术解读栏目本篇从数据口径出发，说明这两项指标怎么读、什么时候适用、对比方案时该取哪一组数。

互连带宽：决定多卡能不能"跑满"

互连带宽衡量的是芯片之间搬运数据的能力，单位通常是GB/s或双向聚合带宽。它不直接产生算力，但决定了算力能不能被喂饱。

从公开架构资料看，训练侧的瓶颈常出现在梯度同步与参数切分环节，推理侧则集中在KV缓存与权重分片读取。天天看球在整理参数库时发现，同一代芯片在不同并行策略下，互连带宽的有效利用率差异可以很大，因此单看标称带宽容易误判。

  • 看口径：区分单向与双向、片间与节点间，避免把不同层级的带宽直接相加。
  • 看拓扑：全互连、环形、交换式拓扑对实际带宽兑现率影响明显。
  • 看配比：带宽与算力的比值比绝对值更有参考意义，天天看球建议按目标模型规模换算。

适用边界在于：小模型单卡可容纳时，互连带宽的边际收益迅速下降；而大模型张量并行度高时，带宽不足会直接拉长通信等待时间。

能效比：决定集群能不能"跑久"

能效比通常以每瓦有效算力衡量，反映单位功耗下能完成多少实际工作。它不只是电费问题，更关系到机柜功率密度、散热方案与持续负载下的降频幅度。

数据解读时要注意，厂商标称的能效比多基于特定精度与理想负载。天天看球在对比方案时更关注三个口径：精度是否一致、是否包含内存与互连功耗、测试负载是训练还是推理。三项不一致，数字就不可直接比较。

  • 精度口径：不同精度下的能效比不可混用，需统一到同一精度再比。
  • 负载口径：训练偏重持续高负载，推理偏重波动负载，能效表现差异明显。
  • 系统口径：芯片级能效与整机、整柜能效之间存在明显折损，天天看球建议按系统口径取数。

方案对比时的取数建议

结论前置：方案对比应先锁定业务负载，再选指标，最后统一口径，顺序颠倒就容易得出错误结论。

天天看球建议按以下顺序整理数据：先明确目标模型规模与并行策略，再确定互连层级与带宽口径，随后统一精度与功耗边界，最后用带宽算力比和每瓦有效算力两项做交叉验证。单一指标领先但另一项明显偏弱的方案，往往在实际部署中表现平庸。

需要说明的是，公开资料中的能效与带宽数据多为示例数据或厂商标称值，实际表现受编译优化、框架版本与调度策略影响。天天看球在技术解读中坚持标注口径来源，正是为了让对比有据可依，而不是被单点数字带偏。想持续跟踪这类指标口径的变化，可以在天天看球客户端安卓、苹果iOS、Windows电脑版、Mac电脑版上查看更新后的参数条目。

常见误读与边界提醒

结论前置：把标称带宽和标称能效直接相乘或相除，是最常见的误读方式。

  • 误把片间带宽当作节点间带宽，导致集群规模放大后预期落空。
  • 忽略功耗边界，把芯片级能效直接套用到整柜能效。
  • 用推理场景的能效数据推断训练表现，反之亦然。

天天看球提醒，指标的价值在于边界清晰。互连带宽回答"能不能喂饱"，能效比回答"能不能跑久"，两者结合才能逼近集群的真实有效算力。