网易首页 > 网易号 > 正文 申请入驻

打破“算力存储通信”三堵墙,昇腾超节点给出十万亿大模型训推“最优解”

0
分享至


智东西
作者 云鹏
编辑 漠影

如果说2026年的AI圈只有一个关键词,那必然会是“智能体(Agentic AI)”。

从能聊到能干,智能体浪潮下,AI在各领域开始加速赋能,AI编程的爆发进一步带来生产力的质变,在各行各业掀起变革。

随之而来的是AI推理需求呈指数级爆发,2030预计全球每月Token消耗数将超过120千万亿,暴涨24倍。

为了支撑更强的Agent处理更复杂的任务,模型也越来越大,顶级MoE模型参数量直接来到“十万亿级”,训练压力同步增长。

既要支持更大规模模型高效训练,又要在推理端支持更长上下文,实现更低时延、更低成本、更高效率,这样的需求传统服务器难以应对,“超节点”逐渐成为AI基础设施领域行业公认的更优解决路径。

理想状态下,大量AI加速器紧密耦合成为一台更高密度的AI计算单元,超节点可以解决大模型训练和推理中的“存储墙”和“通信墙”。

但理想很丰满,现实很骨感,超节点落地需要克服诸多挑战。全球芯片巨头、云厂商、服务器大厂争先发布“超节点”产品,但真正商业化落地的很少。

如何真正突破集群内计算、存储等各类资源的通信瓶颈?如何真正通过系统性架构创新优化,实现全域资源统一高效调度?让成千上万张计算卡像一台计算机一样高效运转,绝非易事。

自今年WAIC上真机亮相后,昇腾950超节点备受业内关注,近日在华为全联接大会2026期间正式上市,成为了业界最大规模的商用超节点。


▲华为全联接大会2026昇腾展区

继去年昇腾910C超节点发布首次将“超节点”带入行业视野、引领行业向超节点方向前进后,昇腾为何能成为业界最大规模商用落地超节点?从技术验证迈入规模化商用落地攻克了哪些关键挑战、为何昇腾950超节点能成为当前万亿模型训推的最佳选择?

或许正如华为昇腾计算产品线总裁张迪煊在演讲中所说,大模型每一波迭代都带来新的AI需求,而昇腾超节点用大带宽、低时延和内存统一编址的确定架构,来应对AI变化的不确定性。


▲华为昇腾计算产品线总裁张迪煊

让超节点真正大规模落地,昇腾先交卷了

一、让千卡像“一台计算机”一样运行背后:硬核技术创新与工程化落地缺一不可

此次上市的昇腾950超节点包括Atlas 950 SuperPoD液冷超节点和Atlas 850E风冷超节点,两者场景各有侧重,基于各自核心技术升级点,很好地解决了AI时代不同场景、不同类型企业在解决AI基础设施建设中所面临的一系列挑战。

Atlas 950 SuperPoD液冷超节点,1024颗高性能NPU、1300多个灵衢互联套片、4000多个光模块和19万根CableTray,让千张卡像一台超级计算机一样协同工作,是一个极为复杂的系统性工程。


纵观市面上的超节点产品,昇腾950超节点能够率先规模化商用落地,原因不难分析,但极难模仿:

首先是极强的技术领先性——基于强大的技术力,突破既往行业中很多关键技术瓶颈;其次是扎实的工程化落地能力——深耕AI基础设施、懂场景懂客户懂痛点,把超节点落地中每一个细节都做到位,让客户不是只能“感觉好、用不上”,而是真正能“用得上、用得好”。

以Atlas 950 SuperPoD液冷超节点为例,从技术创新角度来看,其在芯片和互联两个层面都实现了突破。

在芯片微架构创新方面,其重点提升算子开发易用性和效率,过去需要开发者手动管理的数据搬运、格式转换、通信同步、缓存策略,都下沉到硬件里,写代码更简单,开发效率更高。

互联层面,灵衢高速互联技术发挥着关键作用,统一的互联协议实现1024卡统一内存编址,让跨卡远程内存访问就像操作本地内存,芯片互联带宽相比上代提升2.1倍,给超大模型的高频通信提供了保障。可以说灵衢互联成为了打破通信瓶颈的“高速路”。

当然,还有不少“黑科技”我们不再一一枚举,同样值得注意的是Atlas 950 SuperPoD液冷超节点在工程化落地层面的创新。

昇腾自研的TPSU电源模块可以提供储能能力,进而支撑训练推理业务供电波峰诉求。

散热方面,高性能昇腾950 NPU单个模组有950W功耗,昇腾通过高密铲齿+冰川铠甲冷板技术,以及多水路串联设计,单块冷板就能带走2000W的热量,提高单位空间散热效率。

正交架构设计也是亮点之一,其实现了柜内零线缆全电互联,单柜就可以减少6000多根线缆,一个1024超节点可以省下50千米的铜线,在根除线缆老化与故障风险、大幅提升系统可靠性、降低时延的同时,实现了资源的节省。

此外,柜间光互联使用了业界唯一的光模块液冷技术,在时延降低的同时,一个超节点4000多个光模块所节省的电力消耗相当于数千户家庭的年用电量。链路级重传技术、2+2光模块保护技术则攻克了“超节点光模块易闪断”的行业顽疾,保证了超节点的可靠性、支撑超节点规模扩展。

我们看到,基于海量技术创新和扎实的工程化落地突破,昇腾950超节点真正实现了计算、存储、通信三大系统高效协同打通,让整个超节点系统具备落地的基础,而非徒有“性能参数”的空中楼阁。

最终在实际大模型训推场景中,Atlas 950 SuperPoD形成了相比行业其他解决方案突出的领先优势。

训练侧,其训练效率有着1.5-1.7倍提升,基于器件、网络、系统三重可靠设计,实现了万卡超节点集群实现月级稳定训练。

推理侧,昇腾超节点在中心高并发推理场景中可以实现低时延、高吞吐推理,推理性能2-3倍提升、时延低于10ms,实现万亿模型训推一体化。

值得一提的是,昇腾是国内唯一商用支持mxFP8低精训练和全流程支持mxFP4推理的厂商。

一系列优势特性令昇腾迅速得到行业认可,今天,昇腾超节点已经广泛应用于互联网、运营商、金融、教育、医疗、交通、制造等行业。

在峰会现场展区,我们看到在昇腾超节点加持下,蚂蚁阿福的模型训练实现了“离线持续优化、在线实时纠偏”的能力,场景实际响应、吞吐大幅提升,最终让健康AI服务响应更快、解读更精准;德赛西威则基于昇腾超节点构建高性能算力底座,训推性能超过业界GPU平台。

昇腾超节点进一步推动了Agentic AI和AI编程规模化落地,证明了“超节点”这一形态的可行性、极强的应用潜力,从技术和工程化落地层面给行业树立了蓝本,让行业可以基于超节点规划和建设万亿模型的算力基础设施。

十万亿级大模型训推的阶段性“最优解”,被昇腾950超节点拿下了。

二、从液冷数据中心走向企业级风冷机房,无需改造直接部署,直指AI推理核心痛点

相比面向液冷数据中心的Atlas 950液冷超节点,Atlas 850E风冷超节点则更加聚焦企业级通用风冷机房的超节点升级改造。

这款产品背后体现的对行业用户痛点、场景需求的精准洞察,在工程化落地过程中攻克的一系列细节难题,都是超节点能够真正率先实现规模化商用的关键,是昇腾超节点的核心差异化优势之一。


纵观行业,大量企业级通用风冷机房面临液冷基建改造周期长、成本高的现实门槛,制约了超节点技术的规模化普及。而Atlas 850E风冷超节点基于自研相变散热技术,无需对现有风冷机房做液冷改造,标准风冷机柜可以直接上架部署,支持从32卡到768卡。

无需改造直接把超节点技术部署到传统机房,这在过去是企业“想都不敢想”的。

在企业级推理场景中,Atlas 850E风冷超节点原生覆盖FP8、mxFP8、HiF8、INT8、mxFP4全量低精格式,可以稳定实现10ms级时延推理。

对于Agent多轮对话、高频KV缓存读写负载等需求需求,其都能很好地满足,支持多卡高效并行推理和内存资源池化。

在实际场景中,通过超节点的异构PD分离方案根据业务负载动态调整PD配比、叠加大规模专家并行优化,最终Atlas 850E风冷超节点在万亿参数MoE模型推理上实现了5-10ms的极致低时延,单卡吞吐比业界风冷集群提升2.5倍。

Atlas 850E风冷超节点的商业规模化落地,让更多场景的客户有了新的选择,尤其是对于中小企业级场景客户来说,解决了他们最为关心的迁移成本、迁移效率等问题。

让超节点从液冷数据中心走向更广泛的通用风冷机房,让更多企业可以高效、低成本地实现Agentic AI推理业务规模化落地,昇腾做到了。

三、软件系统给硬件装上“强大脑”,昇腾开放生态加速成长

超节点夯实底层算力基础,上层昇腾软件生态的茁壮成长则进一步释放昇腾潜力,让超节点更快落地千行万业,实现赋能。

如果说硬件是把算力“拧成一股绳”系统软件就是统一调度的“大脑”,完善的软件生态是昇腾从“算力强大”走向“好用易用”的关键。

昇腾超节点的系统软件包括灵衢总线管理、灵衢系统服务以及超节点管理等组件。其中灵衢系统高阶服务支持跨物理节点统一内存编址,编程模式和执行模型与单系统语义一致,支持实现超节点域内的Load/Store内存语义访问。

基于内存语义和拓扑编排等技术,1024卡超节点域内集合通信性能提升1.6倍。实测中,在大EP的跨卡通信场景,1K小包通信,耗时从70微秒降到8.6微秒,性能提升8倍。

可以说,昇腾超节点系统软件,基于高性能、高可用核心能力,充分释放了超节点的算力潜能。

最后,昇腾软件生态的开源开放也进一步加速着昇腾超节点在各领域的落地,从各个环节深度赋能开发者。

去年,昇腾完成了CANN和Mind系列的全面开源开放,这是昇腾生态迈出的重要一步,全面开源开放、兼容主流生态,让昇腾的易用性进一步提升,对开发者们来说,AI开发从“专家专属”走向了“人人可用”。

如今CANN社区月活开发者突破5200多名,位列中国开源项目活跃度排名第一。


从入门部署、算子开发、训练推理到性能调优,昇腾从全流程帮助开发者,智能体时代,Agentic覆盖整个链路,进一步让编程和创新变得更简单。

昇腾软件生态让昇腾从“好用”迈向“易用”,每个开发者都能充分利用昇腾优势,落地优秀AI应用。

结语:从行业首发到规模落地,昇腾重塑Agent时代算力底座

面对行业超节点“只见产品发布、不见商业落地”的困局,昇腾一手紧握底层技术架构创新领先、一手紧握扎实工程化落地能力,系统性地解决了超节点实际落地过程中的一系列“卡点、难点”,让超节点不再是纸面好看部署困难,而是真正能用、好用、易用。

而液冷、风冷双形态,则实现了全场景覆盖,让更多中小企业以低门槛享受到超节点带来的优势。

可以说,昇腾超节点就像班中的模范生,在这场AI剧变时代的算力基建大考中,率先交卷了,为十万亿级大模型时代AI基础设施建设树立了新标杆。

从昇腾落地的路径中我们也不难看出,未来超节点竞争的本质是“硬件架构+系统工程+软件生态”的综合考验,基于技术和生态飞轮,先发者的优势或进一步扩大。


无论如何,AI掀起的算力变革已经开始,而昇腾的“硅基黑土地”,正试图为AI无处不在、充满不确定性的未来提供一种更坚实、更确定的选择。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曝街霸新片有春丽大尺度裸露镜头!美乳翘臀一览无余

曝街霸新片有春丽大尺度裸露镜头!美乳翘臀一览无余

游民星空
2026-10-19 16:04:41
驴友在4500米亚丁高反离世,期间姐姐全网求免费直升机,牧民报价1万被她拉黑

驴友在4500米亚丁高反离世,期间姐姐全网求免费直升机,牧民报价1万被她拉黑

可达鸭面面观
2026-10-19 21:43:29
尊界与懂车帝之争,恐怕是国家公信力的又一个转折点

尊界与懂车帝之争,恐怕是国家公信力的又一个转折点

北欧模式
2026-10-19 17:28:33
又一个龟男的世界崩塌了!网传绍兴一男子遇到妻子和情人约会,咆哮每月1.3万工资,1.25万上交老婆

又一个龟男的世界崩塌了!网传绍兴一男子遇到妻子和情人约会,咆哮每月1.3万工资,1.25万上交老婆

火山詩话
2026-10-19 15:16:53
泽连斯基公开表示:如果特朗普站在普京一边,将是历史性的大悲剧,我不想活在幻觉中,如果美俄联手,我们无法支撑下去,这是可以理解的

泽连斯基公开表示:如果特朗普站在普京一边,将是历史性的大悲剧,我不想活在幻觉中,如果美俄联手,我们无法支撑下去,这是可以理解的

吉刻新闻
2026-10-19 14:36:22
在酒业达沃斯,看见「千面」茅台

在酒业达沃斯,看见「千面」茅台

凤凰WEEKLY
2026-10-19 08:56:43
马斯克:明年将向美国每名儿童赠送一股SpaceX股票

马斯克:明年将向美国每名儿童赠送一股SpaceX股票

界面新闻
2026-10-19 15:58:40
第三例跟腱撕裂!西蒙斯重伤赛季报销后续:将领到全额350万薪水

第三例跟腱撕裂!西蒙斯重伤赛季报销后续:将领到全额350万薪水

罗说NBA
2026-10-19 07:36:07
人民日报推荐的双腿提踵!不起眼的踮脚,好处远超你的想象

人民日报推荐的双腿提踵!不起眼的踮脚,好处远超你的想象

解说阿洎
2026-10-19 04:57:50
星巴克将实施“消费才可入座”规则,店员:10月20日实施,孕妇、外卖员、避雨路人等有需求者可免消费进店休息,免费提供热水

星巴克将实施“消费才可入座”规则,店员:10月20日实施,孕妇、外卖员、避雨路人等有需求者可免消费进店休息,免费提供热水

大风新闻
2026-10-19 19:04:17
OpenAI高管:蒸馏是中国AI模型紧跟美国的原因,大约占50%

OpenAI高管:蒸馏是中国AI模型紧跟美国的原因,大约占50%

西虹市闲话
2026-10-19 12:46:14
汤淼试管女儿正面照曝光!瘫痪19年有望站起,现任和前妻相处和谐

汤淼试管女儿正面照曝光!瘫痪19年有望站起,现任和前妻相处和谐

娱圈办事处
2026-10-19 15:13:49
麻豆停运,原来是为了入驻抖音?

麻豆停运,原来是为了入驻抖音?

吃瓜党二号头目
2026-10-19 19:15:36
深度 以色列大选倒计时!内塔尼亚胡遇“生死战”,特朗普为何最后时刻表态?

深度 以色列大选倒计时!内塔尼亚胡遇“生死战”,特朗普为何最后时刻表态?

上观新闻
2026-10-19 20:49:29
笑不活!老外买的中国纪念品,不理解但尊重

笑不活!老外买的中国纪念品,不理解但尊重

另子维爱读史
2026-10-19 21:05:28
公安部172号令:年满70岁,不能骑普通二轮、三轮摩托车

公安部172号令:年满70岁,不能骑普通二轮、三轮摩托车

生活魔术专家
2026-10-19 10:07:17
破解 AI 推理效率困局,详解华为 OceanStor M900 AI记忆存储新基建 | 前沿在线

破解 AI 推理效率困局,详解华为 OceanStor M900 AI记忆存储新基建 | 前沿在线

前沿在线
2026-10-08 21:34:14
40岁物理学博士被“非升即走!连续四年申请基金全失败,被批“不是主流研究”,可就在离开那年,他出了成果、发了顶刊

40岁物理学博士被“非升即走!连续四年申请基金全失败,被批“不是主流研究”,可就在离开那年,他出了成果、发了顶刊

学术眺望
2026-10-19 08:45:03
二十届五中全会10月26日召开!核心聚焦这一项大事

二十届五中全会10月26日召开!核心聚焦这一项大事

娱乐的宅急便
2026-10-19 09:36:40
国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

新一说史
2026-10-19 14:11:39
2026-10-19 23:07:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12757文章数 117186关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

男子在稻城高反死亡 多人称其姐姐不愿出钱请马帮救援

头条要闻

男子在稻城高反死亡 多人称其姐姐不愿出钱请马帮救援

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

手机
艺术
教育
房产
数码

手机要闻

「星芒」一揽子新品定了!华为要加码性价比手机了?

艺术要闻

俄罗斯当代画家 叶夫根尼·戈洛洛博夫风景油画选

教育要闻

AD=10,BC=20,求四边形面积

房产要闻

最新房价:海口,三亚齐跌!

数码要闻

七彩虹iGame X870E ULTRA-S V14 DDR5主板上架,1899元

无障碍浏览 进入关怀版