Groq 3 LPX 全面量产，NVIDIA 将 Vera Rubin 推理能力延伸至智能体领域

AI 推理的下一个时代，不会由某一款突破性的芯片、网络或系统来单独定义。它的真正标志，在于 AI 工厂各个层级之间的高效协同。正因如此，NVIDIA 正通过扩展 Vera Rubin，为智能体系统提供快速的 Token 生成能力。

NVIDIA 在 Hot Chips 大会上宣布，Vera Rubin 机架级系统中的 NVIDIA Groq 3 LPX 已正式全面量产。在 Artificial Analysis 针对开源智能体模型 Gemma 4 31B 进行的基准测试中，在处理对智能体系统至关重要的 10 万 Token 长上下文场景时，Groq 3 LPX 实现了每秒 3,400 个输出 Token 的性能，比目前同类型的平台快了 4 倍。

全球各地的行业合作伙伴正在积极采用 Vera Rubin 平台解决方案。SpaceXAI 宣布将采用 NVIDIA Vera CPU 为其下一代智能体 AI 提供动力。CoreWeave 已将 Spectrum-X 多平面投入生产环境，该系统通过多个并行交换机平面连接 NVIDIA Vera Rubin 机架，提供高带宽、扁平化且无损的 AI 网络。Nebius 是首家采用 NVIDIA Groq 3 LPX 的 AI 云服务商。

在本周于加利福尼亚州帕洛阿托举行的 Hot Chips 大会上，NVIDIA 展示了极致协同设计如何从端到端重塑 AI 工厂。通过将计算、网络和推理加速整合为统一系统，NVIDIA 正帮助客户构建专为长上下文推理和多智能体系统等新兴需求而量身定制的基础设施。

NVIDIA Groq 3 LPX：

交互式 AI 推理加速器

NVIDIA Groq 3 LPX 与 Vera Rubin 平台进行协同设计，帮助 AI 工厂以极低延迟为智能体工作负载生成 Token。

为了让智能体能够以用户期望的速度流畅运行，NVIDIA Groq 3 LPX 作为 Vera Rubin 平台的扩展，为 Token 生成提供了专用的加速支持。

NVIDIA Rubin GPU 负责大规模上下文处理，而 LPX 则加速延迟敏感型解码工作负载。两者协同实现了更快速、更可预测的 Token 生成，帮助 AI 工厂提供响应更快的推理能力、更流畅的智能体交互以及更高的基础设施效率。

NVIDIA Spectrum-X 多平面：

在更扁平、更具可靠性的网络上

实现大规模 AI 工厂

随着 AI 工厂规模的持续扩大，网络已成为决定性能的关键引擎。在 Hot Chips 大会上，NVIDIA 重点展示了最新一代硬件加速的 Spectrum-X 以太网架构——Spectrum-X 多平面。该架构支持以太网扩展至前所未有的规模，同时避免了因增加额外网络层级所带来的延迟、抖动和成本问题。

NVIDIA Spectrum-X 以太网是一个专为 AI 优化的端到端以太网平台，结合了 NVIDIA Spectrum-X 以太网交换机、SuperNIC 和软件，显著提升基于以太网 AI 基础设施的 AI 工厂和云服务的性能与效率。与通用以太网相比，该平台可将 AI 网络性能提升 1.6 倍，并在多租户环境中提供一致、可预测的性能表现。

NVIDIA 推出专为智能体 AI 工厂

打造的 Scale-In 基础设施，

由 BlueField-4 和 DOCA 提供支持

NVIDIA 推出了 NVIDIA Scale-In，这是 NVIDIA AI 网络的第五大支柱，也是专为智能体 AI 工厂打造的全新加速网络基础设施。Scale-In 将专属的加速能力延伸至 AI 工厂安全保障、管理和运营等基础设施服务中。

NVIDIA Scale-In 由 NVIDIA BlueField-4 处理器和 NVIDIA DOCA 软件平台提供支持，并通过 NVIDIA Spectrum-X 以太网连接，将传统的南北向接入网络转化为一个统一的加速基础设施域。

NVIDIA NVLink Fusion：

将 XPU 接入 NVIDIA 领先的 AI 平台

NVIDIA NVLink Fusion 将定制芯片引入 NVIDIA 全球领先的 AI 基础设施平台，助力超大规模企业和 AI 原生公司以更高的性能、更强灵活性和更快速度构建半定制 AI 工厂。

该平台包含第六代 NVIDIA NVLink 和 NVLink Switch 等专为纵向扩展而打造的网络，以及 NVLink-C2C 实现 XPU 与 CPU 之间的高能效互连。通过 NVIDIA MGX 生态系统，用户还可以利用经过生产验证的机架设计、组件、制造合作伙伴的解决方案，以及面向分布式计算、解耦工作负载和集群管理的开放、可扩展软件。

以上为摘要内容，点击链接阅读完整内容：随着 Groq 3 LPX 全面量产，NVIDIA 将 Vera Rubin 推理能力延伸至智能体领域 | NVIDIA 英伟达博客