在 FMS 上,NVIDIA 展示了加速计算如何使 AI 应用能够直接访问存储——速度足够快,可以像内存一样运行,并且原生安全。
![]()
AI 需求的激增推动了对大型数据集和上下文窗口的需求,这些需求已突破系统内存的限制。
但是,仅增加更多的存储容量并不能满足日益增长的需求。我们需要的是来自 AI 工厂、有用且有扎实的见解,以及能够实现这些见解的高效、安全的存储架构。
在本周举办的 FMS 大会上,NVIDIA 发布了存储领域的最新进展,并展示了 AI 的下一次飞跃,不仅取决于计算能力本身,同样取决于为加速计算提供支持的存储基础设施。
随着 AI 智能体消耗大量数据,基础设施面临的压力越来越大,而 GPU 现在可以直接启动存储请求,从而生成数千个并发操作。
为了满足这些请求,存储系统必须不断加密、压缩、验证和重建数据。当数千个智能体同时访问存储时,这些关键数据服务可能会成为瓶颈。
NVIDIA 技术博客中公布的基准测试表明,NVIDIA Vera BlueField-4 STX 的 NVIDIA Vera CPU,在双阶段压缩和加密工作流中,可提供比 x86 CPU 高 3.21 倍的吞吐量。这意味着借助 Vera,存储平台可以更高效地吸收大量 AI 数据,以更少的计算基础设施提供更高的吞吐量。
借助加速计算,存储不再是被动保存数据的容器,而是成为数据路径的活跃参与者。
开源 NVIDIA cuFile API 实现存储解决方案的互操作性
在 FMS 大会上,NVIDIA 宣布 cuFile 应用编程接口(API)及其下方的垂直存储软件堆栈可让 GPU ,而不仅是 CPU,直接读取和写入存储。cuFile 是 NVIDIA GPUDirect Storage 的一个开源组件。
cuFile 使用数十万个 GPU 线程、快速的高带宽内存和其他方法,可在短短几微秒内安全地从存储中访问数据。
这代表了该行业如何基于 Linux 最佳实践统一安全优先的存储栈,实现 GPU 和数据之间的互操作性。
NVIDIA 和行业领导者共同推动 AI 存储发展的新前沿
NVIDIA 和存储行业的领导者正在通过一项名为 Storage-Next 的计划来优化内存和存储解决方案。这一计划由 NVIDIA 主导,汇集了存储制造商、控制器供应商、散热设计、冷却和编排运营商以及标准机构,就 GPU 驱动的存储的行为方式达成共识,并将这些突破转化为可互操作的开放行业标准。
以上为摘要内容,点击链接阅读完整内容:随着 AI 对内存的需求不断增加,存储方案迎来升级 | NVIDIA 英伟达博客
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.