北京
亚马逊旗下的 Annapurna Labs 将率先通过 NVLink Fusion 合作开发 NVHBM 技术。
随着 AI 智能体和万亿参数工作负载日益成为主流，AI 基础设施的性能不仅取决于计算能力，还取决于计算、内存、存储、网络和软件如何作为统一系统进行协同设计。
为帮助超大规模企业和 AI 创新者构建新一代半定制 AI 基础架构，NVIDIA 推出 NVIDIA NVHBM 技术，进一步扩展了 NVIDIA NVLink Fusion 技术方案。NVHBM 是一种新一代高带宽内存技术，可为 XPU 提供更高的内存性能和效率。该技术将由领先的内存合作伙伴完成验证并提供，从而让这种先进的内存能力惠及 NVLink Fusion 客户。
通过将内存控制器集成到 3D HBM 堆栈，而不是集成在 XPU 上，与标准 HBM4E 相比，NVHBM 可实现高达 30% 的内存带宽提升，将 HBM 功耗降低 15%，并为 XPU 计算 die 释放多达 25% 的面积。
NVIDIA 正在建立一套标准的 NVHBM 实现方案，该方案由多个内存供应商提供。这将减少集成和验证多个不同供应商的内存所需的工程工作量，使 NVLink Fusion 客户能够更快地将定制 AI 芯片推向市场。
亚马逊旗下的 Annapurna Labs 将与 NVIDIA 合作开发 NVHBM 技术和 NVLink 纵向扩展架构，以提高 AI 工作负载的性能和效率。
以上为摘要内容，点击链接阅读完整内容：NVHBM 扩展 NVIDIA NVLink Fusion，实现自定义高带宽内存扩展 | NVIDIA 英伟达博客
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
