网易首页 > 网易号 > 正文 申请入驻

业界最高密度单机柜超节点来了

0
分享至



今年的算力展会上,超节点是最不缺关注的那类产品。各家比的东西也很直接:一个机柜,到底能塞下多少张卡。

看多了会发现一个现实问题,卡越塞越多,但这些超级机柜大多是专用形态,供电、液冷都得单独配,老数据中心往往接不住。

工博会上,天数智芯拿出的天垓300 IXL144,想解决的就是这件事。单柜144颗GPU、18颗CPU,约10.1TB显存,用的却是贴近标准的单机柜形态,现有机房条件匹配就能上。


超节点的门槛,不止在芯片上

大模型和智能体把算力需求一再推高。IDC的判断是,2026年中国智能算力规模约2576.5 EFLOPS,同比增长87.9%。需求是真的,超节点也因此从技术验证走到规模采购。

真到掏钱的时候,客户关心的反而不是峰值算力。机房要不要改造,已有模型和代码要不要重写,每百万Token的成本能不能降下来,这三件事决定了一套超节点能不能铺开。

换句话说,超节点拼到这一步,已经不只是拼芯片,而是拼整套方案在客户现场好不好落地。


机房改动尽量小

这是IXL144和不少现有整机柜方案最不一样的地方。

常见的整机柜超节点,机柜是专门设计的,液冷、供电也是专属配套,往往要专门机房,相当于“先建房、再上柜”,投入和周期都不小。

IXL144贴近常规机柜标准,供配电、承重、散热条件对得上,就能进现有机房;组网拓扑也支持一次规划、分步扩容,不用一开始就把钱砸满。对机房空间紧张、又不想新建的客户来说,这一点比单纯多塞几张卡更实在。

代码和模型,尽量不重写

迁移是另一道坎。天数智芯用的是自研通用GPU架构和软件栈,兼容CUDA,客户已有的模型、框架和开发经验基本能接着用。

通用GPU还有个好处,训大模型、做推理可以,金融估值、科学智能这类任务也能跑,不是只适配某一类AI负载,算力利用效率自然更好,适配、迁移工作也更好做。

底座天垓300,对标的是H100、H200

IXL144里的GPU,是天数智芯今年7月WAIC发布的旗舰天垓300,基于SIMT通用计算架构。它的对标对象,是英伟达Hopper这一代,也就是H100、H200。

官方给出的实测数据集中在几个主流场景:64k长上下文的Attention效能高出约10%,DeepSeek V4这类MoE场景计算效率超过70%;主流模型首字延迟降低约20%,Decode阶段通信延迟降低约13%。


需要说明的是,这些都是特定模型、特定场景下的对比,不是全场景的跑分碾压。但能在大模型最吃重的几个环节正面比较、甚至占优,对国产GPU来说已经说明问题。

144张卡,要像一张卡那样协同

卡多了,互联跟不上,算力就会空转。IXL144用整柜高带宽互联把144颗GPU连成一个统一内存域,单跳时延在100ns量级,高频的All-to-All通信尽量留在柜内,个别MoE场景有效带宽能提升约15%。10.1TB显存,则用来放模型权重、MoE专家和长上下文的KV Cache。

面向在线推理,它也按高并发、多业务和流量波动做了优化,重点看吞吐、时延和利用率。

最后算的是Token这笔账

前面这些,最终都要落到成本上。天数智芯给出的测算是,IXL144每百万有效Token的成本,比国际主流方案低40%。

这个数字是厂测口径,落到不同客户的真实业务上会有差异,还需要更多项目验证。不过天垓系列已经做到万卡级规模部署,服务380余家客户、落地超千个项目,系统交付和运维有实际经验打底。

“超节点不是单一产品,而是一项系统工程。”天数智芯副总裁邹翾说,IXL144只是整套方案里的第一个,面向不同算力规模和机房条件的产品已经布局好,后面会陆续推出。

超节点这门生意,最终还是要回到客户的机房和账单里。能不能让客户少改一点机房、少重写一点代码、少花一点Token的钱,比单柜塞了多少颗卡,更值得关心。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
000333,已回购1.38亿股,将全部注销!多家A股龙头也出手!

000333,已回购1.38亿股,将全部注销!多家A股龙头也出手!

证券时报
2026-10-22 21:23:02
蛇冬眠的时候有多危险?一个专业捕蛇人坦言:90% 的人根本想不到,蛇进入冬眠,它就可能变成老鼠的一顿大餐

蛇冬眠的时候有多危险?一个专业捕蛇人坦言:90% 的人根本想不到,蛇进入冬眠,它就可能变成老鼠的一顿大餐

扶苏聊历史
2026-10-21 16:34:58
德国总理:乌克兰的投降就是整个欧洲的投降,投降这不是一个选项

德国总理:乌克兰的投降就是整个欧洲的投降,投降这不是一个选项

麓谷隐士
2026-10-23 00:05:08
母亲36岁改嫁40岁教授,洞房夜,我撞见他往母亲杯中滴入不明液体

母亲36岁改嫁40岁教授,洞房夜,我撞见他往母亲杯中滴入不明液体

千秋文化
2026-08-11 19:45:43
刘欢走了才敢讲!杀死他的并非股骨头坏死,而是明知红灯还硬扛!

刘欢走了才敢讲!杀死他的并非股骨头坏死,而是明知红灯还硬扛!

兵卒史
2026-10-21 18:12:10
危险已经到来,中国不得不面对!40年来从未出现的四种情况已到来

危险已经到来,中国不得不面对!40年来从未出现的四种情况已到来

铜臭的历史味
2026-10-22 05:19:54
老区通高铁 振兴谱新篇(赓续长征精神奋进复兴征程)

老区通高铁 振兴谱新篇(赓续长征精神奋进复兴征程)

人民网
2026-10-21 07:08:16
深度长文:为什么只有人会得痛风?答案要从3.6亿年前那条上岸的鱼说起!

深度长文:为什么只有人会得痛风?答案要从3.6亿年前那条上岸的鱼说起!

宇宙时空
2026-10-20 15:53:11
冯琳和男友上海大师赛同框,这回算是正式公开了!

冯琳和男友上海大师赛同框,这回算是正式公开了!

手工制作阿歼
2026-10-22 11:46:51
全面弃用华为智驾!问界欧洲出海做了最务实的选择

全面弃用华为智驾!问界欧洲出海做了最务实的选择

ZAKER新闻
2026-10-21 19:11:34
彻底撕破脸!张继科直播公开控诉刘国梁,揭露师徒决裂真实内幕

彻底撕破脸!张继科直播公开控诉刘国梁,揭露师徒决裂真实内幕

体育见习官
2026-10-05 14:12:07
有没有人留意到?燃油车加 200 块钱的油,差不多能跑 400 公里,而纯电车花 200 元电费,或许能跑 2000 公里

有没有人留意到?燃油车加 200 块钱的油,差不多能跑 400 公里,而纯电车花 200 元电费,或许能跑 2000 公里

扶苏聊历史
2026-09-28 18:26:28
曾经他们硬气的拒绝了中国,如今好怀念他们当初桀骜不驯的样子

曾经他们硬气的拒绝了中国,如今好怀念他们当初桀骜不驯的样子

聚焦真实瞬间
2026-09-25 21:54:13
美国打死都没想到!当年把中国外逃的上千名贪官当成“香饽饽”,死活不肯遣返,明里暗里纵容他们,硬生生把自己捧成了头号“逃犯避风港”

美国打死都没想到!当年把中国外逃的上千名贪官当成“香饽饽”,死活不肯遣返,明里暗里纵容他们,硬生生把自己捧成了头号“逃犯避风港”

扶苏聊历史
2026-10-21 13:35:54
曾仕强:当你的孩子主动给你买衣服、买吃的,给你发红包时,不管你缺不缺钱,有多心疼孩子赚钱辛苦,你都要欣然收下,因为......

曾仕强:当你的孩子主动给你买衣服、买吃的,给你发红包时,不管你缺不缺钱,有多心疼孩子赚钱辛苦,你都要欣然收下,因为......

犀利辣椒
2026-09-18 06:21:22
受台风“蔷琵”影响,上海将迎来集中风雨时段

受台风“蔷琵”影响,上海将迎来集中风雨时段

澎湃新闻
2026-10-22 19:54:28
“郑欣宜在沈殿霞墓前哭”冲上热搜,网友拍到郑欣宜在母亲墓前哭到无法起身、手里攥着纸巾,无人在旁陪伴

“郑欣宜在沈殿霞墓前哭”冲上热搜,网友拍到郑欣宜在母亲墓前哭到无法起身、手里攥着纸巾,无人在旁陪伴

扬子晚报
2026-10-22 14:42:47
李玮锋:王上源不是国内第一腰,那谁是?吴曦、李源一还是另有其人

李玮锋:王上源不是国内第一腰,那谁是?吴曦、李源一还是另有其人

蜡笔小新爱体育
2026-10-22 17:35:30
乌克兰人民苦战四年,泽连斯基给乌克兰人带来六个成果

乌克兰人民苦战四年,泽连斯基给乌克兰人带来六个成果

回京历史梦
2026-10-14 10:18:49
智取遵义城:红军缴获王家烈家底,12天分粮、招兵、赶新军装,走之前还开了三天会

智取遵义城:红军缴获王家烈家底,12天分粮、招兵、赶新军装,走之前还开了三天会

磊子讲史
2026-10-22 19:09:06
2026-10-23 01:08:49
芯榜 incentive-icons
芯榜
中国芯片排行榜
5500文章数 3272关注度
往期回顾 全部

科技要闻

腾讯云谷歌紧急行动!互联网安全出大事

头条要闻

大火逼近中国 日本道歉只道一半:未对中国有任何表示

头条要闻

大火逼近中国 日本道歉只道一半:未对中国有任何表示

体育要闻

卢卡:伦德伯格,欢迎来到NBA

娱乐要闻

芭莎盛典,张小斐因救场实现口碑暴涨

财经要闻

宁德,跌成了一只红利股?

汽车要闻

搭城市NOA/续航555KM 捷达M6上市售7.98万起

态度原创

教育
游戏
家居
时尚
旅游

教育要闻

留学毕业回来后,最快能回本的专业!

赛事终章的欢呼声漫过羊城,中国的《荒野乱斗》电竞才刚刚开始"/> 主站 商城 论坛 自运营 登录 注册 简体中文 简体中文 English 赛事...

家居要闻

2026建博会(广州) 公装联探展交流活动

装绿茶钓权贵,她这么坏,却被全网爱惨了?

旅游要闻

6.5米高塔菊首次亮相天坛,菊花班班长揭秘如何拿到全国金奖?

无障碍浏览 进入关怀版