网易首页 > 网易号 > 正文 申请入驻

面向数据中心级AI推理,d-Matrix正式推出Squadron多机架集群

0
分享至



2026年10月12日,AI推理计算企业d-Matrix宣布推出Squadron多机架计算集群。

该系统专为数据中心规模的AI推理场景打造,目标是提供兆瓦级、高能效推理算力,支撑AI模型实现高速、低延迟运行。依托d-Matrix自研的内存中心计算架构,Squadron主要面向AI实验室、企业及主权机构,适配代码生成、个人智能体、网络安全、高频交易等对响应延迟高度敏感的应用场景。

Squadron由d-Matrix联合Arista、博通、Supermicro共同开发。目前,这套系统已部署在d-Matrix位于美国亚利桑那州的数据中心,用于内部研发验证。与此同时,d-Matrix正优先向部分客户交付设备,支持客户在自有数据中心完成部署。此外,Squadron的d-Matrix Corsair服务器与Corsair SquadRack机架系统现已全面上市。

Squadron支持多种部署配置,最大可扩展至16台d-Matrix SquadRack机架,单机架配备8台服务器,整套集群最高可搭载1024颗d-Matrix Corsair XPU。集群通过d-Matrix JetStream网卡(NIC)完成节点互连,并搭配d-Matrix Aviator软件栈做系统优化,简化集群部署与运维管理流程。

Squadron采用风冷散热方案,基于行业标准架构搭建,客户可直接将其接入现有数据中心环境,无需额外搭建液冷系统,也不用开展成本高昂、周期漫长的数据中心基础设施改造工程。

在部署选型上,客户可根据业务需求灵活选择,包括单台Corsair服务器、完整SquadRack机架系统方案,还可进一步扩容至多机架Squadron集群。不同规模部署方案统一采用风冷、行业标准架构,方便客户随推理业务增长平滑扩容算力。

Squadron除了承载高效AI推理负载,还支持跨硬件的计算任务拆分调度。该集群既能够依靠Corsair XPU独立运行完整大模型,也可采用GPU与XPU协同的异构计算架构,把不同类型计算任务分配至适配硬件执行,属于解耦计算路线的典型落地案例。

在该异构架构下,GPU负责注意力层、嵌入层、键值缓存(KV Cache)以及专家路由等任务;Corsair加速卡承接专家网络的计算负载。这种任务分工旨在充分释放两类硬件各自的架构优势,降低GPU运行专家计算任务时对外部显存带宽的消耗,借助Corsair大容量高速片上SRAM提升推理执行效率。

根据d-Matrix公开测试数据,这套异构架构单用户生成速度可达每秒845 token;64用户并发场景下,系统整体吞吐量约每秒20400 token。两个指标分别表征不同维度的推理性能,不可简单使用单用户生成速率乘以并发用户数量估算集群总吞吐量。

d-Matrix表示,尽管注意力与前馈网络解耦(AFD)此前在行业内被视作极具潜力的解耦计算思路,但本次Squadron与GPU服务器联合演示,首次在市售可用芯片硬件上验证了该方案的实际可运行性。这一成果也证明,AI推理基础设施不必完全依赖单一类型加速器;通过合理拆分计算任务、组合异构硬件,有机会持续优化推理延迟、吞吐能力与能效水平。

小编将在第一时间分享更多相关最新动态和爆料,敬请关注。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
重磅:俄军单日伤亡达到2100!为俄乌战争以来第二高

重磅:俄军单日伤亡达到2100!为俄乌战争以来第二高

项鹏飞
2026-10-19 19:55:29
鸿蒙智行销量连降4个月全年或现负增长 前三季问界交付跌12.6%智界下滑24.5%

鸿蒙智行销量连降4个月全年或现负增长 前三季问界交付跌12.6%智界下滑24.5%

长江商报
2026-10-19 10:59:13
演员李小冉凌晨再发文怒斥:真是谎话张口就来,工作室啥时候辟过谣?还在某散播谣言账号下怒怼:“卖泡面的大脑也不能让营销号统治了”

演员李小冉凌晨再发文怒斥:真是谎话张口就来,工作室啥时候辟过谣?还在某散播谣言账号下怒怼:“卖泡面的大脑也不能让营销号统治了”

都市快报橙柿互动
2026-10-20 09:17:16
微型电车的真正危机,不是卖不动了,是“低价”不再是它的专属武器

微型电车的真正危机,不是卖不动了,是“低价”不再是它的专属武器

你在偷看谁
2026-10-20 07:55:26
为什么作为发达国家,日本的社保越交越多,养老金却越领越少呢?

为什么作为发达国家,日本的社保越交越多,养老金却越领越少呢?

流苏晚晴
2026-10-18 19:42:32
两部门:对盾构机等物项实施出口管制

两部门:对盾构机等物项实施出口管制

界面新闻
2026-10-19 15:05:32
打不得!日本战舰闯入台海峡,我军为什么不直接击沉它?

打不得!日本战舰闯入台海峡,我军为什么不直接击沉它?

阿凫爱吐槽
2026-10-18 15:16:57
全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

全红婵不对劲,不是她以后不比赛了,而是她今年19岁了,居然开始了自己的精致路线

LULU生活家
2026-09-30 20:32:43
粮油要变天?下半年开始,大米、面粉、食用油或迎新一轮行业洗牌

粮油要变天?下半年开始,大米、面粉、食用油或迎新一轮行业洗牌

云霄纪史观
2026-10-17 01:39:00
1分未得,狂丢20球!6连败,沦为五大联赛最惨球队,2次换帅仍无解

1分未得,狂丢20球!6连败,沦为五大联赛最惨球队,2次换帅仍无解

万花筒体育球球
2026-10-20 01:25:13
许家印大儿子也被捉回来,也跟着一起被判刑,真的是大快人心

许家印大儿子也被捉回来,也跟着一起被判刑,真的是大快人心

静若梨花
2026-08-22 14:13:55
只提多缴多得,不谈缴费公平和资金来源,这种说法有失公允

只提多缴多得,不谈缴费公平和资金来源,这种说法有失公允

苗苗情感说
2026-10-20 05:21:37
29投狂轰44分8板!张镇麟这2战杀疯了:郭士强该让他重返国家队了?

29投狂轰44分8板!张镇麟这2战杀疯了:郭士强该让他重返国家队了?

篮球快餐车
2026-10-20 05:48:52
张雪:给这个赛季打90分!本来只想上1次领奖台 结果拿了6个冠军

张雪:给这个赛季打90分!本来只想上1次领奖台 结果拿了6个冠军

念洲
2026-10-20 07:14:29
超强台风“蔷琵”已达17级+,还在增强!22日开始影响我国!广东降温时间定了→

超强台风“蔷琵”已达17级+,还在增强!22日开始影响我国!广东降温时间定了→

珠江时报
2026-10-19 12:45:30
克内克特被裁,布朗尼留队!湖人18人名单出炉

克内克特被裁,布朗尼留队!湖人18人名单出炉

体坛周报
2026-10-20 09:34:19
欧洲物价被美国拉爆,法国彻底乱套了

欧洲物价被美国拉爆,法国彻底乱套了

大猫财经Pro
2026-10-19 13:29:27
刘丁硕风波4天后,孙颖莎公开表态,用“四个不”给他上了一课

刘丁硕风波4天后,孙颖莎公开表态,用“四个不”给他上了一课

小橘子追剧馆
2026-10-20 00:33:33
孙颖莎:不举办、不参与、不授权、不鼓励、都不要!

孙颖莎:不举办、不参与、不授权、不鼓励、都不要!

五星体育
2026-10-19 12:28:19
特斯拉:公司CEO马斯克2025年考核未达标,全年实际到手收入为零,没有现金,也没有解锁任何股权

特斯拉:公司CEO马斯克2025年考核未达标,全年实际到手收入为零,没有现金,也没有解锁任何股权

极目新闻
2026-10-20 09:10:39
2026-10-20 09:55:00
宗熙先生
宗熙先生
分享科技、数码、互联网信息。
4174文章数 558关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

两名男性设局和女局长接触并发生关系 其中一人未成年

头条要闻

两名男性设局和女局长接触并发生关系 其中一人未成年

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

李连杰回应抛妻弃女传闻,透露四个女儿关系

财经要闻

宁德时代的大时代结束了吗?

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

房产
健康
教育
数码
军事航空

房产要闻

最新房价:海口,三亚齐跌!

看着很健康的人,怎么会突然猝死?

教育要闻

英国大学开始“暑假补课”?毕业生找工作,光有高分和文凭还不够!

数码要闻

57亿美元赔款还不够,Taction要求苹果支付iPhone与Apple Watch专利费至2035年

军事要闻

泽连斯基:若乌“被要求”举行战时选举 他将竞选连任

无障碍浏览 进入关怀版