DRAM涨价这事,已经不只是玩家买不起内存条的程度了。最近谷歌基础设施高级总监Nikhil Cherian透露,AI行业已经从"算力紧缺"快速转向"内存紧缺",高性能内存占AI服务器总成本的比例,已经飙到大约75%。这数字听着就离谱,但更离谱的是谷歌的应对方式——他们开始拆退役服务器,把里面的DDR4内存模块抠出来接着用。
你没看错,就是那种"垃圾佬捡垃圾"的操作。只不过这次捡垃圾的不是咱们DIY玩家,而是全球科技巨头谷歌。
![]()
内存贵到啥程度?谷歌开始"捡垃圾"了
Cherian介绍,为了突破内存瓶颈,谷歌在软硬件两端同时发力。硬件层面,他们干脆自建了内部回收供应链,把退役服务器拆解,回收可用的DDR4内存模块。这操作听起来有点心酸,但确实是当前DRAM供应紧张的真实写照。
更绝的是,谷歌内部还设计了硬件转接器,让上一代的DDR4内存能连接到新一代AI服务器上。也就是说,那些本该用DDR5的新AI服务器,在某些情况下不得不"降级"使用回收来的DDR4。这画面感太强了——就像你攒了一台新电脑,结果因为内存太贵,只能把老机器上的条子拔下来插上去先用着。
谷歌还在内部重新导入退役服务器,以提取其中的DDR4模组。这已经不是简单的"废物利用"了,而是把回收内存当成了一条正经的供应渠道在运营。
软件层面也在想办法省内存
硬件上抠内存,软件上谷歌也在做优化。Cherian提到,谷歌持续优化分层函数、模型推理时的KV Cache和压缩技术,试图降低单位算力的内存消耗。说白了就是,内存不够用,那就想办法让同样的内存干更多的活。
今年谷歌还推出了两款TPU ASIC芯片,分别是面向训练的TPU8t和面向推理的TPU8i。其中TPU8i配备了288GB HBM3e,提供8.6 TB/s的内存带宽,还内置384MB的片上SRAM用于存储活跃的KV缓存,减少对外部系统内存的查询需求。TPU8i服务器采用谷歌自研的基于Arm架构的Axion处理器,替代传统x86主机CPU,依赖高速DDR5内存来处理数据预处理等主机级任务。
![]()
但即便有了这些新硬件,谷歌还是被迫在部分场景下用回收的DDR4替代DDR5。这就很能说明问题了——连谷歌这种体量的公司都被内存供应逼到这份上,DRAM紧张的程度可见一斑。
内存价格到底涨了多少?
这波内存涨价有多夸张?有消息说DDR5价格一年涨了两倍。还有更直观的对比:DRAM价格直逼黄金,1公斤内存条能换620克黄金,9公斤内存条就能买上海一套房。虽然这说法有点夸张成分,但内存价格疯涨确实是不争的事实。
对普通玩家来说,这意味着什么?攒机成本肉眼可见地往上走,内存条成了整机里最肉疼的配件之一。而对大厂来说,连谷歌都开始拆服务器抠内存了,其他AI公司估计也好不到哪去。
这场内存荒什么时候能缓解,目前还看不到明确的时间表。只知道连科技巨头都被逼成了"垃圾佬",这波行情是真的离谱。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.