北京
GPU 越来越强，也越来越贵了，但你知道在一颗 GPU 里面，成本最高的是什么吗？
是显存！
知名咨询机构 Epoch AI 给出了一张统计图，分析了 2024 Q1 到 2025 Q4，AI 芯片各类组件在总成本中的平均占比。
图里将 GPU 成本拆分成 4 部分↓
Memory：显存，主要可理解为 HBM 等高带宽存储；
Logic：逻辑芯片，也就是 GPU、AI加速卡的核心计算单元；
Packaging：先进封装；
Auxiliary：其他辅助组件
看完让人大跌眼镜，显存占了最大头，而且成本占比还在持续走高。
2024 Q1，显存大约占 52%；到了2025 Q4，已经飙到大约 63%～64%。
一颗高端 AI 芯片的组件成本里，每花 100 块钱，有 60 多块花在显存上。
AI芯片成本重心，已经从算力向存力倾斜，核心原因就是现在的大模型越来越吃显存，显存容量和带宽是最主要的卡点。
尤其训练和大模型推理，需要不断在 HBM 和 GPU 计算单元之间搬运海量权重、KV Cache 和中间数据。
因此 NVIDIA、AMD 等高端 GPU 都在狂堆 HBM。
以 AMD 刚刚正式发布的 Helios 超节点为例，整个机架 72 颗 GPU 堆了足足 31TB 的 HBM4 显存。
同样的，今年6月，NVIDIA 和显存大厂 SK海力士共同宣布了一项多年深度战略合作，共同研发下一代 HBM 内存，其实也在是为高居不下的显存成本布局。
算力决定上限，存力决定下限，只要大模型热浪不停，这内存的价格，恐怕就得一直涨下去。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
