NVIDIA 发文讨论 AI 基础设施能效，将性能功耗比列为核心指标

NVIDIA 于美国时间 2026 年 7 月 14 日在官方博客发布题为《Why Performance per Watt Is the Ultimate Metric for AI Infrastructure Efficiency》的公开文章，把 AI 基础设施的性能功耗比列为衡量推理系统效率的核心指标。

NVIDIA 在文中表示，电力约束正在成为 AI 基础设施扩张中的直接限制条件，在固定供电预算下可生成的 token 数量，会影响 AI 工厂的收入与利润表现。文章将 performance per watt 作为主要观察指标，并将这一指标与实际生产环境中的推理吞吐和部署成本直接关联。

文章提到，当前前沿模型大量采用 mixture-of-experts 架构，服务这类大模型时，GPU domain size 也就是通过高速互连组成的 GPU 规模，会影响推理效率。NVIDIA 把 Hopper 时代的 8-GPU 域与 Blackwell NVL72 的 72-GPU 域进行对比，称后者已经成为其面向大规模推理场景的既有平台基础。

按照 NVIDIA 页面披露的数据，GB300 NVL72 在最新一代主流开源模型上的性能功耗比最高可达到 Hopper 代产品的 25 倍。文中同时写入，DeepSeek V4 在一个月内通过软件栈优化实现了最高 5 倍的性能功耗比提升，用于说明软件优化仍在持续改变推理效率曲线。

这篇文章还集中列出机架级系统中的公开技术部件，包括用于大规模 GPU 互连的 NVLink Switch、用于推理的软件栈 NVIDIA Dynamo 与 TensorRT LLM，以及文中点名的 SGLang、vLLM、NVFP4 quantization、KV-aware routing 和 KV cache offloading 等公开优化手段。页面还提到 DynoSim，用于在实际验证前模拟不同延迟、吞吐与成本之间的取舍。

NVIDIA 在文末写明，Blackwell NVL72 已作为现阶段平台基础，下一代 Vera Rubin 平台将继续沿着机架级能效方向推进。该文页面元数据标注的发布时间为 2026 年 7 月 14 日 15:00:20（UTC），对应北京时间 2026 年 7 月 14 日 23:00:20。