网易首页 > 网易号 > 正文 申请入驻

面向数据中心级AI推理,d-Matrix正式推出Squadron多机架集群

0
分享至



2026年10月12日,AI推理计算企业d-Matrix宣布推出Squadron多机架计算集群。

该系统专为数据中心规模的AI推理场景打造,目标是提供兆瓦级、高能效推理算力,支撑AI模型实现高速、低延迟运行。依托d-Matrix自研的内存中心计算架构,Squadron主要面向AI实验室、企业及主权机构,适配代码生成、个人智能体、网络安全、高频交易等对响应延迟高度敏感的应用场景。

Squadron由d-Matrix联合Arista、博通、Supermicro共同开发。目前,这套系统已部署在d-Matrix位于美国亚利桑那州的数据中心,用于内部研发验证。与此同时,d-Matrix正优先向部分客户交付设备,支持客户在自有数据中心完成部署。此外,Squadron的d-Matrix Corsair服务器与Corsair SquadRack机架系统现已全面上市。

Squadron支持多种部署配置,最大可扩展至16台d-Matrix SquadRack机架,单机架配备8台服务器,整套集群最高可搭载1024颗d-Matrix Corsair XPU。集群通过d-Matrix JetStream网卡(NIC)完成节点互连,并搭配d-Matrix Aviator软件栈做系统优化,简化集群部署与运维管理流程。

Squadron采用风冷散热方案,基于行业标准架构搭建,客户可直接将其接入现有数据中心环境,无需额外搭建液冷系统,也不用开展成本高昂、周期漫长的数据中心基础设施改造工程。

在部署选型上,客户可根据业务需求灵活选择,包括单台Corsair服务器、完整SquadRack机架系统方案,还可进一步扩容至多机架Squadron集群。不同规模部署方案统一采用风冷、行业标准架构,方便客户随推理业务增长平滑扩容算力。

Squadron除了承载高效AI推理负载,还支持跨硬件的计算任务拆分调度。该集群既能够依靠Corsair XPU独立运行完整大模型,也可采用GPU与XPU协同的异构计算架构,把不同类型计算任务分配至适配硬件执行,属于解耦计算路线的典型落地案例。

在该异构架构下,GPU负责注意力层、嵌入层、键值缓存(KV Cache)以及专家路由等任务;Corsair加速卡承接专家网络的计算负载。这种任务分工旨在充分释放两类硬件各自的架构优势,降低GPU运行专家计算任务时对外部显存带宽的消耗,借助Corsair大容量高速片上SRAM提升推理执行效率。

根据d-Matrix公开测试数据,这套异构架构单用户生成速度可达每秒845 token;64用户并发场景下,系统整体吞吐量约每秒20400 token。两个指标分别表征不同维度的推理性能,不可简单使用单用户生成速率乘以并发用户数量估算集群总吞吐量。

d-Matrix表示,尽管注意力与前馈网络解耦(AFD)此前在行业内被视作极具潜力的解耦计算思路,但本次Squadron与GPU服务器联合演示,首次在市售可用芯片硬件上验证了该方案的实际可运行性。这一成果也证明,AI推理基础设施不必完全依赖单一类型加速器;通过合理拆分计算任务、组合异构硬件,有机会持续优化推理延迟、吞吐能力与能效水平。

小编将在第一时间分享更多相关最新动态和爆料,敬请关注。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
炸裂!章子怡套现巨款走人

炸裂!章子怡套现巨款走人

新浪财经
2026-10-18 21:45:22
国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

新一说史
2026-10-19 14:11:39
驴友在4500米亚丁高反离世,期间姐姐全网求免费直升机,牧民报价1万被她拉黑

驴友在4500米亚丁高反离世,期间姐姐全网求免费直升机,牧民报价1万被她拉黑

可达鸭面面观
2026-10-19 21:43:29
每月1000多社保占了工资的一半!社保扩面找得到人,却恐怕留不住人

每月1000多社保占了工资的一半!社保扩面找得到人,却恐怕留不住人

三言四拍
2026-10-19 20:26:19
菲律宾有人继续搞鬼,想对我大使如何?

菲律宾有人继续搞鬼,想对我大使如何?

新民周刊
2026-10-20 09:06:39
删帖、全网屏蔽:法务部越强,车越不能买!

删帖、全网屏蔽:法务部越强,车越不能买!

章北海
2026-10-19 22:19:23
加拿大媒体曝出惊人消息!一名华人因参加1979年对越自卫反击战被启动驱逐程序!

加拿大媒体曝出惊人消息!一名华人因参加1979年对越自卫反击战被启动驱逐程序!

水泥土的搞笑
2026-10-20 05:44:22
52岁刘恺威新恋情曝光,与小20岁黎纪君十指紧扣逛街甜似初恋

52岁刘恺威新恋情曝光,与小20岁黎纪君十指紧扣逛街甜似初恋

开开森森
2026-10-20 09:26:14
紫牛热点|一家三口被困豪华酒店卫生间超4小时,喷淋失控水漫楼道,一岁多幼儿险失温

紫牛热点|一家三口被困豪华酒店卫生间超4小时,喷淋失控水漫楼道,一岁多幼儿险失温

扬子晚报
2026-10-20 09:37:31
湖南女网红晚安安从35楼坠落生还:从ICU出来父母叫我“宝宝崽崽”,感觉重新过了童年;回忆坠楼经历称当天记忆空白,不知道怎么发生的

湖南女网红晚安安从35楼坠落生还:从ICU出来父母叫我“宝宝崽崽”,感觉重新过了童年;回忆坠楼经历称当天记忆空白,不知道怎么发生的

蓬勃新闻
2026-10-20 06:36:31
赖昌星最狠的一招,就是用天价豢养空姐周兵,攻破了海关关长的防线;私生子降生的那一刻,530亿走私帝国的遮羞布被彻底撕碎

赖昌星最狠的一招,就是用天价豢养空姐周兵,攻破了海关关长的防线;私生子降生的那一刻,530亿走私帝国的遮羞布被彻底撕碎

人生录
2026-10-20 00:05:11
马斯克在 X 上发帖暗示:全球美元加起来,恐怕都不够 AI 巨头用了!

马斯克在 X 上发帖暗示:全球美元加起来,恐怕都不够 AI 巨头用了!

混沌录
2026-10-20 00:38:08
一次精日作死,彻底毁掉一辈子:留学生陈宇昕面临的四条绝路

一次精日作死,彻底毁掉一辈子:留学生陈宇昕面临的四条绝路

莫地方
2026-10-19 22:38:55
以色列总理下令推翻伊朗政权

以色列总理下令推翻伊朗政权

新京报
2026-10-20 07:04:07
今天金鸡提名名单一出来,全网都在刷同一个词:离谱。

今天金鸡提名名单一出来,全网都在刷同一个词:离谱。

东方不败然多多
2026-10-20 10:00:38
葡媒:C罗只用39秒就支付了国家队“严重违规”的罚款

葡媒:C罗只用39秒就支付了国家队“严重违规”的罚款

懂球帝
2026-10-20 02:39:12
李小冉发文承认离婚:“去年已离互不牵扯,互不打扰,祝各自安好”

李小冉发文承认离婚:“去年已离互不牵扯,互不打扰,祝各自安好”

韩小娱
2026-10-19 20:06:00
为什么有些功能微信鸿蒙版上还没有?微信回应

为什么有些功能微信鸿蒙版上还没有?微信回应

界面新闻
2026-10-19 15:21:58
随州市广水市委书记崔传金接受纪律审查和监察调查

随州市广水市委书记崔传金接受纪律审查和监察调查

环球网资讯
2026-10-19 19:46:34
港媒曝刘恺威与32岁黎纪君恋情,因匹克球互生情愫,已秘密恋爱两个月

港媒曝刘恺威与32岁黎纪君恋情,因匹克球互生情愫,已秘密恋爱两个月

韩小娱
2026-10-20 09:20:08
2026-10-20 10:39:00
宗熙先生
宗熙先生
分享科技、数码、互联网信息。
4176文章数 558关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

上周黄奇帆等两"虎"落马 4名省部级干部被处理

头条要闻

上周黄奇帆等两"虎"落马 4名省部级干部被处理

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

港媒曝刘恺威与32岁黎纪君恋情,秘密恋爱两个月

财经要闻

宁德时代的大时代结束了吗?

汽车要闻

方盒子家族再添新成员 捷途自由者7实车体验

态度原创

本地
旅游
亲子
游戏
手机

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

旅游要闻

彩丘披秋装 丹霞引客来 水墨丹霞景区赏秋热度攀升

亲子要闻

一次性看完母乳的形成过程,看完感叹女性的伟大

《使命召唤:现代战争4》首更后玩家无法载入战役

手机要闻

酷派首款阔直板手机Cool X Wide开启预约:6.38英寸16:10屏幕

无障碍浏览 进入关怀版