网易首页 > 网易号 > 正文 申请入驻

Vera Rubin横空出世!英伟达甩出30倍吞吐,Agent时代彻底爆发

0
分享至



AI行业的节奏,最近已经快到让人跟不上。就在HotChips2026大会上,英伟达直接放出一套刷新行业认知的实测数据,下一代旗舰机柜VeraRubinNVL72正式揭开面纱,并且直接拿DeepSeek‑V4‑Pro做真实智能体编码任务实测,爆出了一组近乎夸张的数字。

每兆瓦吞吐量最高暴涨30倍,Token生成成本直接下降35倍。网上不少从业者调侃,就算写PPT画饼,都不敢报出这样的参数。曾经身价不菲的H200,回头看都只能算作入门版本。





这一次,英伟达传递出来的信号十分明确:传统大模型聊天时代已经翻篇,Agent智能体时代正式到来,过去大家习惯的AI跑分标准,已经不再适用。不止GPU,CPU、专用推理加速器一并量产,甚至这套算力方案已经被SpaceX看中,计划部署送上太空,AI算力的战场,已经不再局限在地面的数据中心里。



一、旧基准失效:智能体和普通聊天根本不是一回事

很多人会疑惑,为什么现有GB300已经足够强,英伟达还要急着推出VeraRubin。OpenRouter统计的真实业务数据,把背后的痛点讲得很直白:跑一次Agent智能体任务,消耗的Token总量,是普通对话聊天的15倍之多。

举个很现实的例子,让AI智能体完整完成一份公司投资调研,它不是简单回答一两句话。它会反复调用工具、读取文档、多次推理、生成子任务,一轮又一轮把输出结果继续当成输入,上下文会越堆越长。智能体交互次数越多,工具调用越频繁,整体算力压力就会成倍放大。





过去行业测试大模型,习惯用8K、128K固定长度的文本做跑分。这种测试只适合简单问答,完全复刻不了智能体持续循环工作的真实场景。英伟达直接放弃了传统的测试方式,选用SemiAnalysis推出的AgentX基准,测试素材就是真实的代码编写会话,完整还原工具调用、子智能体生成、上下文持续膨胀的完整流程。



也正是这套新测试,暴露了老平台的短板。H200面对持续运转的Agent任务,很快就会遇到内存、吞吐、功耗的瓶颈。单纯聊天看不出差距,一旦跑真实业务,新旧设备的鸿沟就彻底拉开。

二、VeraRubin实测:同样电力,干30倍的智能体活

这次测试没有拿老旧的旧显卡凑数,直接拿当下主力机皇GB300NVL72作为对照组,运行1.6万亿参数的DeepSeek‑V4‑Pro模型,在AgentX智能体工作负载下,VeraRubinNVL72交出答卷:每兆瓦吞吐量相比GB300最高提升30倍。



回顾这两代的迭代路径,从H200升级到GB300,Agent场景吞吐量最高提升30倍,整机柜价格大致翻倍;再从GB300升级到VeraRubin,吞吐量再度冲高30倍,机柜成本再次翻倍。两年时间,硬件价格涨4倍,但是实际业务吞吐量直接跃升900倍。



对于数据中心来说,电力永远是硬天花板,很多AI工厂不是缺机器,而是没有足够的供电。VeraRubin最大的价值,就是在同样兆瓦级电力预算里面,释放出数十倍的有效算力。配合英伟达DSXMaxLPS电源管理技术,在相同供电条件下,还可以再多部署40%的GPU资源,把电力的价值压榨到极致。



吞吐量暴涨带来最直接的改变,就是Token成本断崖式下跌。官方给出的数据,VeraRubin生成每百万Token的成本,相比GB300最高直接降低35倍。成本降到这个级别,7×24小时不间断工作的数字员工,大规模面向普通用户的Agent应用,才有真正落地的商业基础。

很多人会误以为,这波飞跃来自芯片工艺的单点突破。事实恰恰相反,VeraRubin靠的是整套系统协同设计。分布式KV缓存、KV感知路由、MegaMoE架构,再加上NVFP4四位量化技术,在不明显损失效果的前提下压低内存占用。第六代NVLink互联,速度远超普通以太网,延迟大幅降低,让72颗GPU之间,MoE模型的各个专家模块可以流畅调度。英伟达卖的早已不是单张显卡,而是一整套完整的AI发电厂。



三、Groq3LPX量产,解决智能体最头疼的延迟难题

同一天,英伟达官宣Groq3LPX全面量产,这是去年花费200亿美元收购Groq之后,交出的商业化落地成果。

智能体工作会出现一个很现实的痛点:读取海量上下文和高速输出Token,对硬件的需求完全不一样。如果全部交给GPU处理,很容易出现读取任务占满资源,生成输出卡顿拖慢整体节奏。Groq3LPX的思路就是分工协作,VeraRubinGPU负责处理海量长上下文读取,Groq3LPX专门负责高速生成Token,一个负责读,一个负责写,各司其职。

整套机架最多可以塞进256个LP30加速器,和GPU高速互联。实测跑Gemma431B,10万Token超长上下文场景,输出速度冲到3400Token每秒。处理5000个Token,耗时从50秒压缩到1.5秒,速度提升34倍。在编码任务场景,峰值输出速度甚至达到6981token/s。





过去要耗费数小时的多步骤智能体任务,现在几分钟就可以跑完。云厂商Nebius已经把这套硬件部署到自家TokenFactory,给智能体循环任务提供低延迟的算力底座。

四、VeraCPU登场,马斯克直接把算力瞄准太空

整套平台里面,最容易被忽略,却意义重大的,是全新的VeraCPU。

Agent任务不只有大模型推理,大量琐碎工作都压在CPU身上:调用工具、运行代码、调度子任务、来回搬运上下文数据。上百步连续流转,传统通用CPU扛不住这种高强度调度,这也是英伟达专门打造VeraCPU的原因。它搭载88颗自研Olympus核心,内存带宽冲到1.2TB/s,专门为智能体的调度工作而生。





样品很早就给到OpenAI、Anthropic、SpaceXAI做内部测试。SpaceXAI动作最快,直接大规模部署这套芯片,同时搭建吉瓦级别的VeraRubin算力工厂,用来支撑Grok模型。更疯狂的计划还在后面,优化定制版本的VeraRubinNVL72,会被搬到太空,作为StarmindAI卫星的算力核心,计划2028年实现大规模部署,把AI算力直接送上轨道。





五、英伟达在重新搭建Agent时代的地基

回望过去,大模型时代,英伟达靠GPU拿下训练和推理市场。来到Agent时代,它的版图已经铺开到GPU、专用CPU、推理加速器、高速互联整套全栈硬件。



单纯比拼单卡性能的时代正在过去。未来比拼的,是一整套机架系统综合能力,看整套机器跑真实智能体业务的时候,功耗、速度、成本综合表现。

VeraRubin的登场,不只是一次硬件更新。它代表整个行业的重心,正式从“把模型训得更大”,转向“让智能体能稳定、便宜、高速地持续干活”。接下来,一大批Agent应用、数字员工,会在这套新的算力底座之上,真正迎来爆发。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
郭德纲改编红歌事件罚单下发!网友:郭德纲宁愿德云社直接被罚,50多万是小钱,没人敢请才是大问题

郭德纲改编红歌事件罚单下发!网友:郭德纲宁愿德云社直接被罚,50多万是小钱,没人敢请才是大问题

火山詩话
2026-09-08 06:34:34
苹果秋季发布会五大核心看点:开辟折叠屏硬件新赛道 依托AI重构移动计算体验

苹果秋季发布会五大核心看点:开辟折叠屏硬件新赛道 依托AI重构移动计算体验

cnBeta.COM
2026-09-10 06:20:11
40年来最猛烈境外打击!伊朗一口气向约旦美军基地发射20枚导弹

40年来最猛烈境外打击!伊朗一口气向约旦美军基地发射20枚导弹

观世环球
2026-09-09 08:25:24
大学生吐槽校园外卖被“胖乖”垄断,配送费每单近3元,河南工大:已恢复其他平台服务

大学生吐槽校园外卖被“胖乖”垄断,配送费每单近3元,河南工大:已恢复其他平台服务

潇湘晨报
2026-09-09 13:47:13
OpenAI前研究员田永龙被曝进入腾讯CEO办公室 向腾讯首席AI科学家姚顺雨汇报

OpenAI前研究员田永龙被曝进入腾讯CEO办公室 向腾讯首席AI科学家姚顺雨汇报

快科技
2026-09-09 12:27:04
堂妹在我家借住六年考上985,我卖房换新房,她却怒气冲冲找上门

堂妹在我家借住六年考上985,我卖房换新房,她却怒气冲冲找上门

观观说事
2026-09-10 05:30:03
继克里斯,爱德华兹同天抵沈阳,手握鲜花公仔,与球迷打成一片!

继克里斯,爱德华兹同天抵沈阳,手握鲜花公仔,与球迷打成一片!

篮球资讯达人
2026-09-09 22:35:44
开发商欠债,浙江夫妻全款购买的房子被查封!法院判决:赡养父母所购房屋、为刚需居住,停止查封

开发商欠债,浙江夫妻全款购买的房子被查封!法院判决:赡养父母所购房屋、为刚需居住,停止查封

都市快报橙柿互动
2026-09-09 19:55:34
研究表明:性生活越频繁,射精和勃起问题越少!

研究表明:性生活越频繁,射精和勃起问题越少!

黯泉
2026-04-05 20:40:12
38岁前国脚再次改姓!效仿孙继海做青训 曾欠球迷7万救命钱不还

38岁前国脚再次改姓!效仿孙继海做青训 曾欠球迷7万救命钱不还

念洲
2026-09-09 13:40:39
中美日首次世界500强排名差距断崖:美151家,日149家,中国呢?

中美日首次世界500强排名差距断崖:美151家,日149家,中国呢?

坠入二次元的海洋
2026-08-22 00:27:01
24999元!华为新机官宣:9月12日,正式开售!

24999元!华为新机官宣:9月12日,正式开售!

科技堡垒
2026-09-08 11:20:02
悲催!浙江一男子8000元创业,半年狂赚130万,终陷千万负债,网友:普通人要明白一个道理,发财了不是你牛逼,是你站在风口上

悲催!浙江一男子8000元创业,半年狂赚130万,终陷千万负债,网友:普通人要明白一个道理,发财了不是你牛逼,是你站在风口上

火山詩话
2026-09-04 06:12:16
日本自费在上海建高楼,可背后却隐含不可告人的阴谋,如何应对?

日本自费在上海建高楼,可背后却隐含不可告人的阴谋,如何应对?

红豆讲堂
2024-11-20 17:40:03
俄媒:卡德罗夫称,自俄乌冲突爆发以来,车臣共和国已向冲突区域派出超7.6万人

俄媒:卡德罗夫称,自俄乌冲突爆发以来,车臣共和国已向冲突区域派出超7.6万人

环球网资讯
2026-09-09 13:40:06
李在明没撑住!美以轮番羞辱点名,韩国终于出手中东,中国按兵不动

李在明没撑住!美以轮番羞辱点名,韩国终于出手中东,中国按兵不动

孤酒老巷QA
2026-09-10 02:15:06
姚月茂停捐后续!相关部门介入,女生是情急之下失言,已给本月生活费

姚月茂停捐后续!相关部门介入,女生是情急之下失言,已给本月生活费

小徐讲八卦
2026-09-10 05:33:36
伊朗副总统:当初选择日本车就好了,中国车质量差价格高

伊朗副总统:当初选择日本车就好了,中国车质量差价格高

贱议你读史
2026-09-02 21:21:39
56比94惨败38分无缘八强!中国女篮压力大了:日韩出局他们成独苗

56比94惨败38分无缘八强!中国女篮压力大了:日韩出局他们成独苗

篮球快餐车
2026-09-09 04:57:55
后果十分严重,绝不能以减负之名自断民族历史根脉!

后果十分严重,绝不能以减负之名自断民族历史根脉!

李光满说
2026-09-08 19:24:00
2026-09-10 06:35:00
魏家东 incentive-icons
魏家东
一个人的营销商学院!
3080文章数 12280关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

苹果发布首款折叠屏iPhone Duo 起售价1999美元

头条要闻

苹果发布首款折叠屏iPhone Duo 起售价1999美元

体育要闻

16年后再破门,被皇马放弃的少年没认输

娱乐要闻

郭德纲的商业版图,藏着不知道的真相

财经要闻

知情人士证实DeepSeek备战科创板IPO

汽车要闻

腾势Z9GT易三方闪充尊越型32.98万元上市

态度原创

亲子
艺术
本地
数码
公开课

亲子要闻

我不放弃,也不害怕!#彩虹糖裴曼伊#看看世界有多大#熊出没

艺术要闻

禁止出境国宝!唐代孙位唯一存世真迹,宋徽宗亲笔题名

本地新闻

宁波,中国制造的隐藏大佬

数码要闻

AirPods 5、Apple Watch Series 12/Ultra 4发布:性能全面升级

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版