NVIDIA 在 Hot Chips 2026 发布 Vera Rubin 平台及配套架构
Hot Chips 是在斯坦福大学举办的年度学术与产业研讨会，半导体及系统厂商在此公布最新芯片架构的技术细节。以下为 NVIDIA 本次发布内容汇总。
发布要点
- Vera Rubin NVL72 在真实 agentic 基准上实现每兆瓦 30× 吞吐提升
- Groq 3 LPX 进入全面量产，agentic 推理负载速度为最接近竞品（Cerebras）的 4×
- Vera CPU 将由 SpaceXAI 大规模投入生产部署
- Spectrum-X Multiplane 带来 1.6× 更高的 AI 工厂有效吞吐
- Scale-In 作为新的基础设施支柱发布，基于 BlueField-4 与 DOCA
Vera Rubin 平台
七款芯片全面量产 · 已量产
- 包含 Vera CPU、Rubin GPU、NVLink 6 Switch、ConnectX-9 SuperNIC、BlueField-4 DPU、Spectrum-6 以太网交换机、Groq 3 LPU，作为单一 AI 超级计算机协同工作
- 覆盖从大规模预训练、后训练、测试时扩展到实时 agentic 推理的全流程
- 在使用 DeepSeek-V4 Pro 的真实 agentic 编码负载上，每兆瓦吞吐提升 30×
Groq 3 LPX
面向低延迟与长上下文的推理加速器 · 已量产
- 为 Vera Rubin 配套的交互式 AI 推理加速器，针对 agentic 系统的低延迟与大上下文需求设计
- 在 Artificial Analysis 实测中，agentic 长度负载（100K token 输入序列）下达到 3,400 output tokens/秒的纪录
- 为次快竞品 Cerebras 的 4×
采用方：Nebius 成为首家采用 Groq 3 LPX 的 AI 云厂商
Vera CPU
首款为 AI Agent 打造的 CPU2026 Q4
- 面向模型推理外围的 CPU 密集型工作——工具调用、代码执行、数据处理、编排与仿真
- 88 个 NVIDIA 自研 Olympus 核心，搭配 Spatial Multithreading 技术与高带宽 LPDDR5X 内存，带宽最高 1.2 TB/s
- 在 agentic AI、强化学习与数据处理等负载上，任务完成速度较 x86 CPU 最高快 1.8×
采用方：SpaceXAI 将大规模生产部署 Vera CPU，用于其下一代 agentic AI 应用
Spectrum-X Multiplane
扁平两层拓扑扩展至 51.2 万 GPU · 已上市
- 以扁平的两层拓扑将以太网扩展至 512K GPU，避免第三层网络带来的延迟、成本与复杂度
- 将每台服务器的连接拆分为多个独立平面，由 ConnectX SuperNIC 中的硬件引擎自动管理与重路由，故障对应用不可见
- 单平面故障时仍保留约 90% 总带宽，硬件恢复比软件多平面负载均衡快 11×
- AI 工厂有效吞吐（goodput）提升 1.6×
采用方：CoreWeave 已宣布采用，基于 Spectrum-X 以太网平台、BlueField-3 DPU 与 ConnectX-9 SuperNIC
Scale-In 网络基础设施
面向 agentic AI 工厂的新型基础设施 · 已上市
- 重构南北向网络，为进出 AI 工厂的安全高性能访问提供专用加速；由 BlueField-4 驱动、通过 DOCA 编程、经 Spectrum-X 以太网互联
- BlueField-4 提供芯片级威胁防护、AI 工厂 VPC 网络、加速数据与存储访问、独立控制面处理及实时可观测性
- 在 Vera Rubin 平台中，BlueField-4 成为 7.2 Tb/s 的系统级 DPU，隔离基础设施服务以缩小攻击面，对 AI 负载透明
评论