网易首页 > 网易号 > 正文 申请入驻

瞄准AI推理内存瓶颈:Marvell推出第二代Structera X CXL内存扩展器

0
分享至



2026年10月12日,Marvell宣布推出第二代Structera X 3406与Structera X 3506 CXL 3.2内存扩展器,旨在帮助云计算、企业及AI基础设施提供商构建更高效、可扩展且性能更优的系统,以满足新一代AI与计算工作负载的需求。

现代AI推理工作负载,包括LLM服务和深度学习推荐模型(DLRM),往往受到内存容量与带宽的制约。KV缓存容量及访问效率会影响首个Token生成时间(TTFT)、推理吞吐量和加速器利用率。Structera X 3406/3506主要通过以下特性应对这些挑战。

一、六通道设计与多主机连接,扩展内存容量

1. 六通道CXL内存扩展设计

Structera X 3406/3506采用六个内存通道,较上一代产品增加50%,旨在提高内存带宽及可扩展容量,支持更大规模的AI模型和更长的上下文窗口。

这两款产品分别面向不同类型的内存,Structera X 3406支持DDR4注册式DIMM(RDIMM),最多配置18个RDIMM插槽,单个控制器支持的内存容量最高可达9 TB;Structera X 3506支持DDR5 RDIMM,最多配置12个RDIMM插槽,单个控制器支持的内存容量最高可达6 TB。

2. 支持最多四台主机共享内存

Structera X支持最多四台主机共享内存容量,并提供基于PCIe 6.0 x16的主机连接,主机侧带宽最高可达256 GB/s。该设计有助于提高AI集群中的内存资源利用率,减少内存资源闲置,并为更加灵活的内存扩展与共享架构提供支持。

二、硬件压缩与企业级可靠性,提升系统效率

1. LZ4压缩与解压缩吞吐量达到上一代的5倍

Structera X的LZ4压缩与解压缩吞吐量最高可达250 GB/s。根据具体工作负载及数据的可压缩程度,内存压缩能够使有效内存容量达到最高约2至3倍的水平。

2. StructGuard企业级可靠性设计

StructGuard™提供高级错误纠正能力,旨在提高内存系统的可靠性,并增强系统应对DRAM器件故障的能力,满足企业和云数据中心对可靠性、可用性及可维护性的要求。

3. 集成后量子安全技术

Marvell还将该系列描述为业界首款具备后量子安全特性的CXL内存扩展产品。其安全设计整合了后量子密码学、Caliptra 2.0、CXL完整性与数据加密(IDE)以及AES-256内存加密等技术,为数据保护提供多层安全机制。

三、面向AI推理:性能提升与应用价值

根据Marvell公布的数据,Structera X在不同AI工作负载中可带来以下性能收益:

在深度学习推荐模型(DLRM)场景中,产品可实现最高2倍的每秒查询数(QPS),并将单个控制器支持的有效嵌入表容量提升至最高约2至3倍。

在大语言模型服务场景中,与上一代产品相比,在上下文长度相同的条件下,Structera X可实现最高40%至50%的首个Token生成时间(TTFT)改善;在延迟相同的条件下,则可支持最长达到上一代2倍的上下文窗口。

四、延续上一代产品基础,扩大CXL生态合作

在第一代Structera X 2404/2504已向超大规模数据中心客户供货的基础上,第二代产品将沿用经过验证的软件栈及生态系统集成方案,以降低客户导入新一代产品的难度,并推动产品加快放量。

在生态合作方面,Marvell公布了与AMD、Arm、阿里巴巴、Meta、三星及SK海力士等企业的相关合作进展,涉及开放计算生态、AI基础设施、内存扩展以及内存产品验证等领域。相关合作体现出CXL内存扩展技术正在向更广泛的数据中心软硬件生态延伸。

五、供货与展示信息

截止目前,Marvell方面尚未透露任何具体信息, 仅表示Structera X 3406与Structera X 3506 CXL内存扩展控制器预计将于2027年第一季度向客户提供样品。

六、总结展望

Structera X 3406/3506的推出,标志着CXL内存扩展正从单纯容量补充走向压缩、共享与安全一体化的系统级方案。随着AI推理对内存墙的持续施压,这类控制器有望成为超大规模数据中心提升XPU利用率、降低总体拥有成本的关键组件,其2027年送样节奏也将影响下一代AI基础设施的部署窗口。

小编将在第一时间分享更多相关最新动态和爆料,敬请关注。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
证监会主席提风险!吴清:高度警惕境外挂钩A股个股的杠杆产品等新风险点|快讯

证监会主席提风险!吴清:高度警惕境外挂钩A股个股的杠杆产品等新风险点|快讯

华夏时报
2026-10-19 19:41:03
王诗龄一幅桃子画进卢浮宫拍出145万,第二天就被扒了:展厅,花钱就能进

王诗龄一幅桃子画进卢浮宫拍出145万,第二天就被扒了:展厅,花钱就能进

黎兜兜
2026-10-19 14:06:47
大瓜!邯郸篮球直播忘关麦事件

大瓜!邯郸篮球直播忘关麦事件

新动察
2026-10-19 15:09:35
也门一军事基地遭导弹袭击致53死200余伤

也门一军事基地遭导弹袭击致53死200余伤

新华社
2026-10-19 22:11:32
OpenAI高管:蒸馏是中国AI模型紧跟美国的原因,大约占50%

OpenAI高管:蒸馏是中国AI模型紧跟美国的原因,大约占50%

西虹市闲话
2026-10-19 12:46:14
开除、遣返?!身披旭日旗的留学生,两段道歉视频曝光

开除、遣返?!身披旭日旗的留学生,两段道歉视频曝光

史海流年号
2026-10-18 23:32:18
生意有赚有赔,市场规则能不能说变就变?

生意有赚有赔,市场规则能不能说变就变?

智谷趋势
2026-10-15 10:45:35
40岁物理学博士被“非升即走!连续四年申请基金全失败,被批“不是主流研究”,可就在离开那年,他出了成果、发了顶刊

40岁物理学博士被“非升即走!连续四年申请基金全失败,被批“不是主流研究”,可就在离开那年,他出了成果、发了顶刊

学术眺望
2026-10-19 08:45:03
一座机场,中美杀疯了

一座机场,中美杀疯了

刻面
2026-10-19 14:34:10
3.23亿老人背后,“个人是养老第一责任人”,这话到底说给谁听?

3.23亿老人背后,“个人是养老第一责任人”,这话到底说给谁听?

八荒果子
2026-10-19 10:39:31
重磅:问界与懂车帝重启合作!三部门联合调查此前刚开始

重磅:问界与懂车帝重启合作!三部门联合调查此前刚开始

南财社V
2026-10-19 15:58:37
泽连斯基下令袭击普京家乡,此前鲁比奥说乌未获“星盾”使用权打击俄本土

泽连斯基下令袭击普京家乡,此前鲁比奥说乌未获“星盾”使用权打击俄本土

新民周刊
2026-10-19 13:12:33
国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

新一说史
2026-10-19 14:11:39
泽连斯基表示,如果美国正式站在俄罗斯一边,乌克兰将无法取得胜利

泽连斯基表示,如果美国正式站在俄罗斯一边,乌克兰将无法取得胜利

山河路口
2026-10-19 13:00:25
豆包回应“国内超一半算力在造爽剧”:字节只有约10%算力用于视频生成模型的训练和推理

豆包回应“国内超一半算力在造爽剧”:字节只有约10%算力用于视频生成模型的训练和推理

澎湃新闻
2026-10-19 13:08:27
7中2+在场输4分!北京男篮花1.5亿引进的顶级国手控卫,真废了?

7中2+在场输4分!北京男篮花1.5亿引进的顶级国手控卫,真废了?

弄月公子
2026-10-19 08:26:48
汉庭快捷有门店推出“欢聚六人房”,顾客称像是“美丽豪华大宿舍”,有网友建议全国推广,华住会官方客服回应

汉庭快捷有门店推出“欢聚六人房”,顾客称像是“美丽豪华大宿舍”,有网友建议全国推广,华住会官方客服回应

极目新闻
2026-10-18 17:12:20
在酒业达沃斯,看见「千面」茅台

在酒业达沃斯,看见「千面」茅台

凤凰WEEKLY
2026-10-19 08:56:43
刘强东硬刚抖音,引爆全网!

刘强东硬刚抖音,引爆全网!

大佬灼见
2026-10-19 22:42:34
哈佛30年研究惊人发现:人和人差距,根本不是努力,是吃哪种苦

哈佛30年研究惊人发现:人和人差距,根本不是努力,是吃哪种苦

心中的麦田
2026-10-18 18:56:10
2026-10-20 00:27:00
宗熙先生
宗熙先生
分享科技、数码、互联网信息。
4171文章数 558关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

21岁男生在稻城亚丁严重高反遇难 驴友透露营救细节

头条要闻

21岁男生在稻城亚丁严重高反遇难 驴友透露营救细节

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

艺术
游戏
亲子
房产
军事航空

艺术要闻

俄罗斯当代画家 叶夫根尼·戈洛洛博夫风景油画选

《生化7》制作人称这游戏缺陷很多 但都被大家忽视了

亲子要闻

39万消费者突然涌入Babycare直播间

房产要闻

最新房价:海口,三亚齐跌!

军事要闻

泽连斯基:若乌“被要求”举行战时选举 他将竞选连任

无障碍浏览 进入关怀版