Marvell把内存搬出GPU，用光连成32TB共享池，英伟达的投资和反制比你想的更早

GPU为什么这么贵？很大一部分钱其实花在了“内存”上。Marvell 想出一个办法：把内存从GPU身上拆下来，放到独立的机架里，用光纤连成一个大池子，让最多16块GPU共享32TB内存。

这样一来，算力不够就只加内存，不必为了内存整台买GPU，资本开支有望大幅下降。

但英伟达不会看着自己的生意被撬走——它一边入股Marvell，一边已经备好了自己的答案。

1.先看懂困境：GPU 为什么成了“世界上最贵的内存控制器”

大模型跑起来需要两个关键部件：GPU负责“算”，高速内存负责“记”。模型推理时，参数和每段对话的上下文都得放在离GPU极近的高速内存（HBM）里，因为离得越远、读取越慢，性能越差。

问题就出在这里：现在HBM和GPU封装在同一个芯片上，两者距离只有约1.5 毫米。想多要内存？唯一的办法是再买一块 GPU。可HBM本身极其昂贵，赶上内存短缺期更要命——服务器内存价格一路暴涨。

雪上加霜的是，大模型的“工作记忆”（KV 缓存，即每段对话保留的上下文）随长文本和智能体场景越滚越大，一旦超出本地容量，服务器要么把旧内容清掉重新计算，要么从慢速存储里现取，性能直接崩盘。

一句话总结：在传统架构里，“买内存”和“买 GPU”是绑死的，AI 基础设施的钱就是这么烧掉的。

Marvell CEO Dave Lazovsky 点破了本质——GPU基本上就是“世界上最贵的内存控制器”。

2.Marvell的解法：把内存搬出机架，用光连成共享池

Marvell在投资者日上公布了光子织物内存模块（Photonic Fabric Memory Module），号称是首个用光互联的大容量、高带宽存储器。

其主张很简单：用光代替铜线。光不受距离限制，可以把几十TB的内存集中放到一个独立机架里，供多个处理器同时共享——多个 AI 服务器共享内存，从此成为可能。

具体怎么搭？16个模块串成一台光子织物存储设备：每个模块带 72GB HBM3e插槽、最多8条DDR5内存条、一块光子织物ASIC芯片和7.2Tbps的光输入输出。

插满 256GB 内存条、16 个模块全部连起来，就是32TB DDR5 + 约 1TB HBM3e的共享内存池。模块之间用全对全光纤直接互通，不走电气交换，避免电信号这个瓶颈。

最关键的场景是KV 缓存跨节点共享：A 加速器算好的上下文，B 加速器可以直接拿来复用，不用重算。Marvell 高管的原话是——随着 AI 扩展，内存必须越来越独立于计算。

这背后的资本支出逻辑很直白：如果内存可以单独买，运营商就不必为了多拿容量而连 GPU 一起买。内存不够就只扩内存，这才是省钱的大头。

3.蓝图很美，但请先看这几处“注脚”

第一，东西还没做出来。目前处于硅前阶段（芯片还没流片），计划 2027 年才给客户送样，离量产和规模化部署还差得远。

第二，“省钱”是说法，不是数字。Marvell 的博客提到“每 GB 内存成本更低、推理成本更低”，Celestial AI 的幻灯片承诺降低总拥有成本（TCO），但都没有给出任何支撑数据。资本开支节省目前只是一个论点，不是可以核算的数字。

第三，时机有点尴尬。这套方案要用128条DDR5内存条，而当下恰逢内存短缺——服务器 RDIMM 的价格已经涨到危机前的约5.5倍。相当于在最贵的时候囤货。

第四，创新成色要打个折。这套架构 Celestial AI在2025年就公开展示过（同样是 16 模块、32TB DDR5 + 约 1TB HBM），TechRadar 2024年就报道过其 DDR5+HBM方案。Marvell带来的增量，是实体模块、自家徽章和一张采样时间表。

第五，16 块 GPU也要打个引号。32TB是16个模块拼起来的整机数字，不是单个模块的容量；所谓共享给 16 台主机，主机可以是一整台服务器、也可以是单个加速器，所以16块 GPU既可能低估了覆盖范围，又可能高估了单块GPU实际能分到的带宽。

4.英伟达不会袖手旁观——它早就出手了，而且多线并进

英伟达不是刚反应过来的，它的布局已经持续超过一年：

一边入股对冲。 2026 年 3 月，英伟达向 Marvell 投资20亿美元，合作涉及 NVLink Fusion和硅光子学，黄仁勋宣称“推理的转折点已经到来”。更关键的是，每个 NVLink Fusion 平台都必须至少包含一款英伟达产品——也就是说，就算定制芯片抢走了插槽，英伟达照样收钱。

一边自己下场。 英伟达为同一个“内存难题”准备了好几套答案：

一是更大的现成内存：一台 Vera Rubin NVL72 机架就能装 54TB 的 LPDDR5X 内存，比 Marvell 整台设备的内存还多；

二是专用存储层：GTC 2026 上发布的 BlueField-4 STX，是基于闪存的上下文存储层，专为 KV 缓存设计，宣称令牌吞吐量是 CPU 存储的 5 倍，黄仁勋的原话是 AI 需要"一种全新的存储类别"，合作伙伴系统预计 2026 年下半年问世；

三是池化技术：2025 年对 Enfabrica 投入超 9 亿美元，其 EMFASYS 系统能为 GPU 集群池化高达 18TB 内存；

最后是光学路线：40 亿美元投资 Lumentum 和 Coherent，GTC 2025 发布了光子交换机，并计划在 2028 年的"费曼"一代系统中为 NVLink 提供共封装光学选项。至于铜线和光到底走哪条——黄仁勋的回答是："我们两者都要做。"

Marvell 面前还有很长的路——工作状态的真芯片、明确下单的客户、存储生态伙伴、以及在真实硬件上测出来的吞吐量（而不是模拟曲线），每一步都要按计划兑现。在那之前，它是一份论证充分的蓝图，而资本开支节省依然只是论点。

最讽刺的地方在于：被 Marvell CEO 称作“世界上最贵内存控制器”的 GPU，其制造商英伟达正是 Marvell 20 亿美元的大股东——无论这场内存革命最终谁赢，英伟达都能通过 NVLink Fusion 稳稳赚钱。