网易首页 > 网易号 > 正文 申请入驻

“天数智芯”们比拼超节点 单柜卡数之外还看什么?

0
分享至

研究员|王晨

国产GPU厂商在提升单卡性能的同时,也开始通过高速互联将更多GPU连接起来,使其像一台更大的计算机一样协同工作。

第26届中国国际工业博览会上,天数智芯展示了在单柜中集成144颗GPU和18颗CPU的天垓300 IXL144,沐曦股份展出了16卡的曦景S600 Lite。同样被称为超节点,但产品规模却相差悬殊。




来源:第四波

一个超节点应该做多大,既取决于模型需要多少算力和显存,也取决于这些芯片能否高效通信,以及客户能否用得上。

01 为何把更多GPU装进一个机柜?

超节点通过高带宽、低时延互联,把多个计算节点连接成协同工作的系统,既可以装在一个机柜中,也可以跨越多个机柜。单柜卡数反映的是物理集成规模,整个超节点能高效互联多少颗芯片,则取决于系统架构。把卡装进同一个机柜,只是其中一步。

显存是扩大互联规模的直接动力之一。7月发布Kimi K3总参数量达到2.8万亿,采用混合专家架构(MoE)。即使按每个参数4比特粗略估算,权重也需要约1.4TB存储,尚未计入量化元数据、部分参数采用更高精度带来的开销,以及运行时缓存。MoE每次只激活部分参数,降低了计算量,但完整模型的权重仍需要存储和调度。长上下文和较高并发通常还会增加缓存需求,具体占用取决于模型架构和部署方式。

工博会上,沐曦股份的工作人员告诉第四波:“现在要跑大模型,100张卡都不算多,关键便是显存。”



来源:第四波

厂商也在为更大的模型预留空间。9月的云栖大会上,阿里披露Qwen 4正在训练,并提出未来模型向5万亿至10万亿参数扩展的规划。东方算芯市场部部长徐子鸣对第四波表示,公司目前的超节点机柜集成64张卡,未来将扩展到128张卡,但产品发布时间尚未确定。

在供电、散热和任务负载能够匹配的前提下,提高单柜算力密度,有望增加单位机房面积的Token产出。燧原科技的一位工作人员对第四波说:“为了让模型运行效率更高,客户会希望能在一个机柜里塞更多的卡。”

GPU之间的通信却可能限制这种收益。模型分布在多张卡上运行时,芯片需要交换中间结果;如果数据传输跟不上计算速度,更多GPU也可能花费大量时间等待。衡量超节点性能,需要同时看算力、显存,以及实际任务中的通信效率。

沐曦工作人员以8卡系统为例解释,芯片可提供的互连接口有限,扩大规模就需要相应的交换或网络设计。沐曦曦景S600在单柜内集成64颗GPU,通过自研MetaXLink互联,并可进一步扩展为万卡以上集群。这类集群扩展还需要配套的网络,最终效率取决于模型如何分配到不同节点,以及节点之间的数据交换。

随着互联范围扩大,传输距离、带宽和功耗也更难兼顾。光互联因此进入厂商的超节点及集群方案,试图降低大规模数据交换带来的传输开销。

9月17日,华为发布采用近封装光学(NPO)技术的昇腾960超节点,披露其可扩展至4096颗NPU。这是整个超节点的规模,并非单柜卡数。10月21日,英伟达在GTC柏林大会上宣布与矽品精密扩大共封装光学(CPO)所需光引擎的产能。两者面向不同系统设计,但都在应对算力规模扩大后的互联需求。

02 卡数之外,超节点还要比什么?

规模的选择最终还要回到客户需求。前沿模型需要更大的计算系统,其他客户却未必需要一次性采购上百张卡。

沐曦股份工作人员提到,国内超节点客户既包括头部模型厂商和互联网企业,也包括地方智算中心及一些中小企业。他对第四波说:“如果最初就按较大规模设计,面对需求较小的客户时,可能需要重新制定方案。以较小单元起步,则可以覆盖更多层次的需求。”

沐曦在工博会展出的曦景S600 Lite 16卡超节点,就面向相对轻量化的算力需求。据《IT时报》报道,这款产品的体积与传统8卡服务器相近,可以整机交付,为不需要一次性建设大型集群的客户提供了另一种选择。

采购成本之外,客户还要考虑设备投入使用后的维护和升级。当智算中心的建设、折旧周期长于芯片迭代周期,旧设备能否继续适配新模型,就会影响这笔投资的回报。



此前,一位国内GPU贸易商对第四波表示,不同厂商在新旧产品衔接、软件适配和后续支持方面存在差异,部分旧型号在新品推出后,仍需要客户投入工程资源维护。

因此,对智算中心而言,采购超节点不仅要考虑当前的算力需求,还需要评估未来能否继续扩容、原有设备能否适配新模型,以及后续的技术支持能否得到保障。这些因素都会影响设备整个使用周期的成本。

工博会现场,一位地方智算中心投资人也曾抱怨,芯片厂商几乎每年都会推出新一代产品,但一座智算中心从规划、建设到投入运营,往往需要两年甚至更长时间。到中心真正对外提供服务时,芯片产品可能已经更新换代,而客户往往倾向于使用最新的算力设备。

设备投入运行后,故障处理也是一笔成本。一位现场工作人员提到,大规模训练中,单卡故障可能使相关任务中断,需要从检查点恢复。增加卡数之后,客户还要考察一次故障会波及多少计算资源,以及恢复任务需要多久。

厂商也在调整产品设计。据沐曦介绍,S600减少了计算、交换节点及其连接处的线缆,并对计算、交换、供电和液冷等部分进行模块化设计,以降低安装和维护负担。对于天垓300 IXL144,《IT时报》援引展台人员的介绍称,144颗GPU可同时参与计算,也可按任务需要安排128卡承担主要计算、16卡作为冗余资源。

降低超节点的部署与维护成本,也成为英伟达近期在GTC柏林上展示的重点之一。10月21日,英伟达推出DSX POD模块化AI工厂参考设计,由合作伙伴在工厂内完成Vera Rubin系统及配套设施的集成和测试,再以模块化集装箱形式交付,现场仍需具备供电、冷却和网络等条件。

英伟达次日发布的Minerva运维平台,则汇集GPU、网络、存储及计算任务的运行数据,用于识别异常、定位故障,帮助运营商减少停机和性能下降造成的损失。

多家券商预计,国产超节点市场在未来几年将快速增长。今年4月,华泰证券测算,2025年国产超节点市场规模约为135亿元,预计2026年至2028年将分别增长至1001亿元、1996亿元和3414亿元。8月,中金公司预计2026年、2027年国产超节点机柜市场规模分别达到759亿元和2256亿元。国海证券的预测则更加乐观,预计2026年至2028年市场规模将分别达到889亿元、4151亿元和11089亿元。

对厂商而言,超节点市场需求的增长意味着新的发展空间,但随着更多企业进入这一市场,单柜卡数可能不再是衡量产品竞争力的唯一指标。除了算力性能和采购成本,客户还需要考虑后续维护、软件适配以及设备长期运行的稳定性。这也意味着,厂商之间的竞争将逐步从算力密度延伸至系统交付、运维支持和综合成本控制等方面。

(文中内容和观点仅供参考,不构成投资建议。投资有风险,入市需谨慎。)

编辑|邱慧

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
美国宣布悬赏1000万美元征集缅甸电诈园区洗钱线索,承诺将严格保密举报人身份!

美国宣布悬赏1000万美元征集缅甸电诈园区洗钱线索,承诺将严格保密举报人身份!

每日经济新闻
2026-11-19 20:34:03
民调:52%的美国人认为民主党在2028年选出的候选人将入主白宫,28%的人认为共和党将获胜

民调:52%的美国人认为民主党在2028年选出的候选人将入主白宫,28%的人认为共和党将获胜

阿尔卑斯瞭望
2026-11-19 18:51:50
毛宁现身这场APEC重要发布会 笑着挥手打招呼

毛宁现身这场APEC重要发布会 笑着挥手打招呼

看看新闻Knews
2026-11-19 22:41:13
谭维维:我这辈子最正确的决定,就是嫁了一个退居幕后带孩子的人

谭维维:我这辈子最正确的决定,就是嫁了一个退居幕后带孩子的人

一娱三分地
2026-11-19 12:38:41
国际金银价格大幅下跌,现货黄金收跌2.7%

国际金银价格大幅下跌,现货黄金收跌2.7%

每日经济新闻
2026-11-20 06:12:06
难以置信!上海网友分享闺蜜每周六独自开钟点房休息做手工,还鼓励丈夫独自“开钟点房”,引发热议

难以置信!上海网友分享闺蜜每周六独自开钟点房休息做手工,还鼓励丈夫独自“开钟点房”,引发热议

火山詩话
2026-11-19 06:50:50
72岁的台湾老兵左智超回江苏探亲,酒后失声痛哭:“其实我是共产党员。”在女儿追问下,他说出了隐藏多年的秘密

72岁的台湾老兵左智超回江苏探亲,酒后失声痛哭:“其实我是共产党员。”在女儿追问下,他说出了隐藏多年的秘密

人生录
2026-10-28 00:40:06
美发产品爆雷,甲醇超标238倍,喷进肺里可致失明,却只罚款23万

美发产品爆雷,甲醇超标238倍,喷进肺里可致失明,却只罚款23万

青眼财经
2026-11-19 21:56:30
善恶终有报?袁茵却用事实证明,她背叛侯耀文之后,活得并不差!

善恶终有报?袁茵却用事实证明,她背叛侯耀文之后,活得并不差!

可乐谈情感
2026-11-20 09:46:20
8连败刚终结,奇才5胜11负又要碰刚赢30分的公牛

8连败刚终结,奇才5胜11负又要碰刚赢30分的公牛

林间小温柔
2026-11-20 11:24:27
北京电影学院马克思主义学院成立

北京电影学院马克思主义学院成立

澎湃新闻
2026-11-19 20:09:07
一路走好!香港著名音乐导师离世,容祖儿、邓紫棋和古天乐都曾是她学生

一路走好!香港著名音乐导师离世,容祖儿、邓紫棋和古天乐都曾是她学生

粤睇先生
2026-11-20 00:15:36
战绩同为13胜3负,为什么说76人的比赛含金量要比湖人高得多?

战绩同为13胜3负,为什么说76人的比赛含金量要比湖人高得多?

篮球小布丁
2026-11-20 03:49:01
告别“长枪短炮”,外媒记者纷纷点赞:想要一台

告别“长枪短炮”,外媒记者纷纷点赞:想要一台

极目新闻
2026-11-19 17:03:52
三叔当领导从未帮过我们,如今快退休了,突然要回老家住,我爸看着他,扭头就回了屋

三叔当领导从未帮过我们,如今快退休了,突然要回老家住,我爸看着他,扭头就回了屋

晓艾故事汇
2026-11-19 17:08:14
毛主席怒批田家英:你不想干就打报告,我再找人!田喝闷酒发牢骚

毛主席怒批田家英:你不想干就打报告,我再找人!田喝闷酒发牢骚

大运河时空
2026-11-19 10:15:05
烤全羊1600元剥不出1两肉,店家耍无赖,官方出手,社死仅开胃菜

烤全羊1600元剥不出1两肉,店家耍无赖,官方出手,社死仅开胃菜

琴琴有氧运动
2026-11-19 21:10:29
碾压姆巴佩!皇马隐藏真核才是世界第一!穆里尼奥捡到宝

碾压姆巴佩!皇马隐藏真核才是世界第一!穆里尼奥捡到宝

澜归序
2026-11-20 09:37:45
释永信怎么也想不到,当年举报自己的徒弟释延鲁,如今年收入过亿

释永信怎么也想不到,当年举报自己的徒弟释延鲁,如今年收入过亿

往史过眼云烟
2026-11-20 10:04:15
黄珊珊最终出手挺沈伯洋,准备转投民进党,还是与柯文哲唱双簧?

黄珊珊最终出手挺沈伯洋,准备转投民进党,还是与柯文哲唱双簧?

揽星戈
2026-11-20 00:08:40
2026-11-20 11:39:00
第四波
第四波
深度科技资讯,产业一线报告
194文章数 4关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

健康
数码
教育
家居
房产

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

技嘉扩展“雕妹”IP,携手伙伴推出AORUS ARI联名内存、机箱

教育要闻

你认识“熊”,也背过“忍受”,但bear这道题你大概率还是会错

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

2.5亿!丁村侨中,新动作来了!

无障碍浏览 进入关怀版