NVIDIA宣布Groq 3 LPX进入全面生产，并公布其与Vera Rubin系统协同提供代理式AI推理的方案。
NVIDIA表示，Vera Rubin NVL72机架级系统将通过Groq 3 LPX获得面向代理工作负载的快速令牌生成能力。方案还结合Spectrum-X网络和NVLink Fusion互连，用于连接定制加速器、GPU和数据中心网络。
文章将代理推理描述为跨越模型、网络、内存和软件的系统任务，性能取决于各层协同工作。实际部署需要根据模型规模、并发量、延迟和数据中心配置选择组件。
对代理应用来说，令牌生成速度只是一次任务的一部分；模型调用、工具往返和结果校验也会影响用户等待时间。比较方案时，可以固定相同模型与任务集，记录端到端完成时间、不同并发下的延迟分布、每瓦吞吐和失败重试情况，再判断加速器与网络配置是否适合自己的负载。
这篇发布说明介绍的是NVIDIA公布的系统协同方案，并未提供适用于所有工作负载的独立对照结果。采购评估仍应要求供应商用目标模型、实际上下文长度和峰值并发做测试，同时核算机架供电、软件适配与运维成本；单一峰值指标不足以推断整体收益。
来源：NVIDIA Blog，发布时间：2026年8月24日。
