网易首页 > 网易号 > 正文 申请入驻

失去黄仁勋,英伟达还能补全AI基础设施的内存拼图吗

0
分享至

相当长一段时间,AI基础设施供应链的议价权,曾从英伟达这样的计算芯片巨头,部分转向SK海力士等内存巨头。

但黄仁勋显然不甘于将内存这一关键环节的定义权交给供应商。黄仁勋领导下的英伟达,已经掌控了计算芯片与高速互连网络,在HBM供不应求、内存厂商议价能力持续上升之际,黄仁勋一直试图重新定义内存的技术演进方向,避免英伟达从AI基础设施的主导者,变成被内存供应商牵制的客户。

如今,失去黄仁勋的英伟达,还能抓住这个机会吗?

去年至今,HBM成为了AI算力扩张中最重要的产品之一。EpochAI最新估算认为,在智能体工作流中,英伟达GB300每芯片推理服务容量(inference capacity),约为H100的25倍,而事实上在FP8精度下的算术吞吐量仅提升了2.5 倍。更大的收益来自并发数量与输出速度等,这也解释了为什么HBM如此重要。

这是内存厂商摆脱传统周期的绝佳机会。在内存厂商的HBM路线图上,继续提高DRAM堆叠层数,是重要的技术演进方向之一。按照KAIST金正浩教授团队发布的路线图,HBM4将支持12层和16层堆叠。

随着层数堆叠的增加,它的翘曲、散热等面临挑战,良率爬坡需要时间;而较低的最终良率意味着更多DRAM裸片无法转化为合格产品。这会进一步抬高HBM单位有效产出成本,并制造DRAM供给危机。如果内存厂商足够强势,还可以将成本转嫁给AI芯片厂商以及更下游。

但现实是,HBM正在变得更矮。几个月前,英伟达开始重新评估下一代Rubin Ultra的HBM配置,从12层设计转向8层堆叠。

分析机构SemiAnalysis认为,对于推理的经济性而言,HBM带宽往往比容量更为重要。随着推理与强化学习在算力需求中的比例持续上升,反复读取模型权重、访问KV缓存,让内存带宽正在成为更稀缺的资源。从整个AI基础设施的角度看,HBM的配置不必一味追求单颗加速器的最大容量,只要保证其系统总容量能够容纳模型权重和KV缓存即可。

这也是为什么,去年至今,英伟达反复调整HBM接口规格,要求内存厂商提高单个I/O引脚的数据传输速率,使其大幅高于JEDEC发布的HBM4标准。传统模式下,JEDEC制定HBM标准,SK海力士、三星、美光负责研发和生产,英伟达等芯片厂商根据标准集成HBM。

与此同时,英伟达推出NVHBM定制方案,试图减少GPU计算裸片上的内存接口电路占用,为更窄、传输速率更高的定制接口腾出空间。相较HBM4e,NVHBM的带宽最高可提升30%。

如果降低堆叠层数,能够减少单颗加速器所消耗的DRAM裸片,就有可能在不增加DRAM晶圆投入的情况下,生产更多HBM堆栈,支持更多AI芯片获得HBM供应,进而提高整个AI产业的算力交付规模。

长期而言,如果推理时代对内存的需求,从单纯追求容量转向带宽、容量与成本之间的综合平衡,那么AI基础设施对内存的需求,就可能不再由HBM这一种技术路线满足。黄仁勋也早已落子。

这周,在黄仁勋离职消息引发市场震动之前,另一则值得关注的消息,正是英伟达要求台积电这家长期专注于逻辑芯片代工的巨头,一起研究3D DRAM解决方案。市场将此与10月初英伟达计划投资d-Matrix的传言联系起来。

今年,有行业风向标之称的Hot Chips上,d-Matrix提出了自己的3D DRAM方案,正面挑战了HBM的推理带宽路径。严格来说,它并不是在DRAM内部实现存储单元的晶体管级三维化,而是将传统平面DRAM裸片与计算逻辑裸片进行垂直集成,即 DRAM-on-Logic。


它的意义在于,将数据连接的扩展维度,从芯片边缘的“边长”拓展到芯片表面的“面积”,从而在不依赖进一步提高单条数据线传输速率的情况下,大幅提升内存带宽。这也是为什么d-Matrix敢说,这样设计将带来100TB/s的带宽。这也意味着,继网络之后,黄仁勋不再满足于将内存作为GPU旁边的独立产品。

但DRAM-on-Logic也有自己的局限。d-Matrix目前公布的方案,单卡DRAM容量只有32GB,远低于HBM4方案的192GB。它解决了带宽问题,却没有解决大容量存储问题。要进一步提高这种架构的容量,就需要从DRAM本身寻找答案,其中一条重要路径,就是让DRAM存储单元本身实现晶体管级的三维化。

HBM相对于传统DDR内存的一个重要优势,是能够将多层DRAM裸片垂直堆叠,在有限的封装面积内大幅增加内存容量。而狭义的3D DRAM,试图更进一步,在单颗DRAM裸片内部,将存储单元本身垂直构建成多个层级,从而提高单位晶圆面积能够容纳的存储单元数量。在全球DRAM巨头的技术路线图中,这一技术仍需要至少五年的迭代才能走向成熟。

但这并不意味着DRAM-on-Logic要等待五年。d-Matrix计划在2027年下半年初步交付的Raptor,已经可以通过将现有DRAM裸片与计算逻辑垂直集成,率先改变传统内存架构。等到真正的3D DRAM成熟,新的存储技术又有望进一步接入这套集成架构,替代现有的平面DRAM裸片。

届时,即使3D DRAM实现技术突破,如果它仍然只是被集成进英伟达系统架构的标准化内存产品,那么真正决定系统性能、产品定价和利润分配的权力,依然掌握在英伟达手中。黄仁勋构想里的英伟达的内存体系,应该囊括了d-Matrix的设计,以及台积电的代工。

3D DRAM-on-Logic仍然可能面临容量不足的问题。针对推理时代不断膨胀的上下文需求,内存厂商提出了HBF,试图以更大的容量补充HBM。而黄仁勋坚持的,则是英伟达自己的CMX(上下文存储平台),通过BlueField-4构建一个可共享、可复用的上下文存储层。不过,在今年的学术讨论会直播中,金教授认为,英伟达最终接受HBF只是时间问题。

英伟达一直试图将内存纳入自己定义的AI基础设施架构。如果没有这种持续的战略推动,内存厂商或许已经在这一轮AI基础设施扩张中获得更大的话语权。如果黄仁勋的长期布局顺利实施,英伟达就有可能将原本由内存厂商掌握的部分技术定义权和利润空间,重新纳入自己的系统架构。

但这需要跨越多个产业环节,投入数年时间,甚至重新分配供应链的利润。在SemiAnalysis创始人Dylan Patel看来,黄仁勋之于英伟达的价值,就在于他能够以“创始人模式”,维持对供应链的主导,并快速调整技术战略。

黄仁勋的离开,可能改变英伟达推动这些路线的能力,也让它能否补上AI基础设施内存架构的最后一块拼图,重新成为了一个悬念。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“1600元烤全羊剥不出一两肉”,四川平武县通报

“1600元烤全羊剥不出一两肉”,四川平武县通报

扬子晚报
2026-11-18 21:35:50
央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

晓肂爱八卦
2026-11-17 20:47:39
当年脚踩熊猫杯的韩国球员今何在?有人留洋梦碎,有人沦为边缘人

当年脚踩熊猫杯的韩国球员今何在?有人留洋梦碎,有人沦为边缘人

墨策讲历史
2026-11-18 21:41:29
盘点网友们分享的亲身经过的奇闻逸事,网友:有些事没法解释清楚

盘点网友们分享的亲身经过的奇闻逸事,网友:有些事没法解释清楚

另子维爱读史
2026-11-18 20:46:42
告诉你一个心理学秘密:千万不要提前焦虑,事情会以奇特方式解决

告诉你一个心理学秘密:千万不要提前焦虑,事情会以奇特方式解决

松果正念袁老师
2025-03-11 20:52:18
官媒发文!46岁谢霆锋正式上任,职责重大,早和张柏芝拉开距离

官媒发文!46岁谢霆锋正式上任,职责重大,早和张柏芝拉开距离

错过美好
2026-11-18 13:37:21
NBA最年轻连续三场40+后卫空降香港 替代班顿加盟山东高速概率远大于广东

NBA最年轻连续三场40+后卫空降香港 替代班顿加盟山东高速概率远大于广东

生活新鲜市
2026-11-19 01:27:24
多国代表赴深圳,中方高规格礼宾,三军仪仗队亮相,APEC需要中国

多国代表赴深圳,中方高规格礼宾,三军仪仗队亮相,APEC需要中国

感谢过往的自己
2026-11-17 17:35:29
俄已解除禁杀令,允许暗杀泽连斯基?特朗普坦言:普京已经让步了

俄已解除禁杀令,允许暗杀泽连斯基?特朗普坦言:普京已经让步了

国际法大视野
2026-11-17 15:18:04
优雅知性的女人最美丽,气质高贵有内涵

优雅知性的女人最美丽,气质高贵有内涵

疾跑的小蜗牛
2026-10-22 20:02:34
异地奔现第一天,男生提出同住被拒,直言:一次花费两千,不划算

异地奔现第一天,男生提出同住被拒,直言:一次花费两千,不划算

王二哥老搞笑
2026-11-19 01:50:10
女排联赛积分榜:天津力克上海全胜领跑,江苏不敌山东遭首败

女排联赛积分榜:天津力克上海全胜领跑,江苏不敌山东遭首败

乒桢泳球
2026-11-18 22:02:03
宫斗还是跪求?黄仁勋突然发长文:我爱美国,我爱英伟达,我想重回CEO(全文)

宫斗还是跪求?黄仁勋突然发长文:我爱美国,我爱英伟达,我想重回CEO(全文)

起点财经
2026-11-18 08:53:45
APEC氛围拉满,西班牙学者感慨引共鸣:外国人也希望能有一个深圳

APEC氛围拉满,西班牙学者感慨引共鸣:外国人也希望能有一个深圳

生活魔术专家
2026-11-18 17:18:42
厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

静若梨花
2026-11-16 22:23:40
儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

温情邮局
2025-09-28 11:57:16
捷达M6:别被8万的价格骗了,有些缺点你可能忍不了!

捷达M6:别被8万的价格骗了,有些缺点你可能忍不了!

百车全说
2026-11-19 01:31:37
误闯天家! 浙江丽水“富家千金”柳晶出嫁,八抬大轿凤冠霞帔,席开近50桌,每桌搭配茅台

误闯天家! 浙江丽水“富家千金”柳晶出嫁,八抬大轿凤冠霞帔,席开近50桌,每桌搭配茅台

裕丰娱间说
2026-11-18 11:42:42
会一起停下来吗?苏亚雷斯透露梅西推迟退役的秘密

会一起停下来吗?苏亚雷斯透露梅西推迟退役的秘密

本泽体育
2026-11-18 06:12:15
美国智库感到不安:中国空军组织大规模演习,有一项数据极为惊人

美国智库感到不安:中国空军组织大规模演习,有一项数据极为惊人

小广说历史
2026-11-17 22:55:55
2026-11-19 03:03:00
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
时尚
健康
公开课
军事航空

本地新闻

乌兰察布:以前种土豆,现在种Token

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版