NVIDIA宣布Groq 3 LPX量产并扩展Vera Rubin代理推理能力

NVIDIA宣布Groq 3 LPX进入全面生产，并公布其与Vera Rubin系统协同提供代理式AI推理的方案。

NVIDIA表示，Vera Rubin NVL72机架级系统将通过Groq 3 LPX获得面向代理工作负载的快速令牌生成能力。方案还结合Spectrum-X网络和NVLink Fusion互连，用于连接定制加速器、GPU和数据中心网络。

文章将代理推理描述为跨越模型、网络、内存和软件的系统任务，性能取决于各层协同工作。实际部署需要根据模型规模、并发量、延迟和数据中心配置选择组件。

来源：NVIDIA Blog，发布时间：2026年8月24日。