
9月16日,MLCommons公布MLPerf Inference v6.1,英伟达下一代GPU Rubin以机架级形态(登记名VR200 NVL72)首次出现在提交列表,同门对打上代旗舰GB300 NVL72——同为72卡NVL72机架,Qwen3-VL交互场景吞吐最高约3.7倍,DeepSeek-R1约2.5倍。10月15日,Artificial Analysis又发布首批AA-AgentPerf结果,Rubin在每兆瓦吞吐上相对GB300最高领先约5.7倍。
事件背景
从H100约700W、B200约1000—1200W、GB300约1400W,到Rubin单卡功耗名牌2300W(Max-P档),四代芯片功耗翻了三倍有余。Rubin NVL72延续机架级设计:72颗GPU与36颗Vera CPU位于单一NVLink域,每颗GPU配288GB HBM4,整机液冷。
核心内容
规格上,Rubin每GPU内存带宽达19.2 TB/s(GB300为8 TB/s),NVLink带宽3.0 TB/s(NVLink 6,GB300为1.8 TB/s),密集NVFP4算力35 PFLOPS(GB300为15 PFLOPS)。实测功率区间约0.5—1.9 kW/颗。在AA-AgentPerf中,DeepSeek V4 Pro峰值每兆瓦吞吐272M vs 239M tokens/s,即1.14倍;但在较高每用户速度下,Rubin相对GB300的优势可扩大到约5.7倍。
影响与解读
需要理性看待倍率:同一套硬件对不同负载,倍率从3.7倍到1.7倍全看场景——交互、Agent类流量最吃高带宽互联,离线批处理瓶颈迁移后代差被摊薄。更关键的是,Rubin本次为preview提交、非功耗提交,权威的tokens/焦耳仍需等后续power条目或第三方墙插实测。
相关动态与展望
2300W×72意味着单机柜配电规格需重画,液冷从“高端选项”变为“入场券”。但“买到卡不等于自动吃满代差”——通信库若未为NVLink域重写,线上服务能兑现几折取决于软件栈。下一波故事,是谁先把这2300W×72吃满。
信息来源:AI Primer·Rubin AgentPerf;xFinit·Vera Rubin NVL72;MLPerf v6.1拆解。

评论(0)