网易首页 > 网易号 > 正文 申请入驻

华为与智谱,一场默契的算力协同

0
分享至

智谱正在“摸高”AGI,华为要做英伟达。模型与算力之间的连接点,在于高效产出token的基础设施。中国AI生态,正在默契地从两端向着同一个方向协同。

这一周,智谱解密了Infra Agent如何优化10万卡国产算力集群,帮助旗下GLM-5.3-Flash在6天吞吐了62万亿token;在“进一步加大投入与优化”后,智谱很快迭代出推理提速数倍的GLM-5.3-FlashX。

智谱还没有透露过,旗下10万卡国产芯片集群究竟由哪些厂商构成。但从当前国产AI芯片的市场格局来看,华为在其中至少应该是主力;智谱曾提到“以通信换显存”,以及这一集群由“自研高带宽互联网络连接”,正是华为的优势与布局。

在本周华为全联结大会上,华为加速了昇腾系列AI芯片的迭代节奏,业内首个规模量产了NPO,并将国产算力集群的可扩展性,推高至百万卡级别。它的灵衢互联是灵魂。今年5月的“韬定律”,以及今年9月的“嵌套并行冯·诺依曼架构”,是华为全联结大会2026的行动纲领。

推理的经济学,最终比拼的,是每单位电力和基础设施能够创造多少收入。这不再是单独一块GPU或者一款模型所能解决的问题,而需要从芯片、节点、集群,以及推理引擎到模型架构,建立系统性的优化策略。在任何一个环节提升少量效率,可能收获系统复利,优化大规模服务的成本结构与利润空间。中国原生的算力和模型,正在踏上这条路。

智谱的Infra Agent

智谱GLM-5.3-Flash对国产算力集群的优化,不到两周,累计提升至3.2倍端到端token吞吐量。这也是该团队“硬件效率和单token成本已达到与主流英伟达GPU相当的水平”的依据,因为业界相信国产AI芯片与英伟达之间存在着两三倍的差距。

在技术博客里,智谱表示,为克服单张芯片算力与内存容量相对有限的问题,团队“以算力换带宽、以通信换显存”,在SGLang的基础上构建了专用的推理引擎,工作范围不仅包括算子的开发与优化,也包括性能瓶颈诊断以及部署服务栈的改进。


这是一个庞大的系统工程。推理系统中的精度异常、性能退化或者性能优化目标未达成预期,往往来自算子实现、并行策略、通信行为、内存管理与服务调度等多个层面的动态交互。

经验丰富的工程师,可以根据一次测试结果,选择下一种观测手段,逐步检查每一个环节,并将来自不同工具的信息联系起来。但这非常考验团队人才深度,无法轻易“扩展”。

每一步都意味着反馈,这恰恰又是智能体能发挥关键作用的地方。智谱GLM团队披露,他们尝试在GLM-5.3-Flash的推理基础设施上,引入了Infra Agent(基础设施智能体)的反馈闭环。智能体可以根据测试、轨迹、基准等“稠密反馈”,自主提出假设、修改代码并验证结果。智谱创始人唐杰与GLM团队认为,这是递归自我改进(RSI)的早期形态。

在智谱看来,这些反馈信号之所以“稠密”,并不意味着它们的量非常大,而是它们足够“本地”、“易得”、“客观”。也就是说,反馈信号是直接关联到具体的参数或路径的,更容易复现;更短的验证周期,也就意味着更少的无效投入;修改是否准确、性能是否改善,通过控制变量的对照实验验证。


性能的优化,往往是按下这头,翘起那头。智谱引入ReplaySSM技术,期望“以算力换带宽”,但最初却遭遇了算子执行时间延长的问题。Infra Agent一步步揪出了真正的原因,最终压榨带宽成功。

为了缓解传统注意力机制KV缓存“爆炸”的问题,智谱等国内开源模型厂商引入了线性注意力。但是,后者把“记忆”压缩成固定大小的“状态”,需要不断在HBM读出与写入,;ReplaySSM的核心思路在于,不再每一步都把完整读写,而是必要时才重建状态,这就需要一点点计算为代价。

但智谱的初步尝试发现,ReplaySSM新增的计算量,超过了节省显存访问带来的收益。于是,Infra Agent首先优化了除法操作,效率有所提升,但幅度并不大;这意味着它没有触及主要瓶颈。后来,它定位到大量不必要的重复计算的存在,并最终通过牺牲一点并行度,换来了更少的计算,也就真正释放了“以算力换带宽”的效果。


智谱已经尝到了AI优化推理集群的甜头,还会继续加码。上市以来,智谱2026年内累计融资额已超过755亿港元;最近一次拟募资超过393亿港元,其中约60%将投向下一代GLM基础模型和“完全自训练”(Fully Self Training)体系,以及大规模训练、推理和算力基础设施的部署与升级。

日前,智谱发布了GLM-5.3-FlashX,推理速度最高200 tokens/s,较GLM-5.3-Flash提速5倍,价格则相应提升2.5倍。这证明10万卡国产算力集群不仅在高吞吐能力上足够好用,在低时延上也能继续改善用户体验。三周时间就进一步优化了国产算力集群,会不会很大程度上也正得益于Infra Agent?

这也不是智谱一家的方向。DeepSeek的拿手好戏,向来就是压榨算力基础设施效率。最近,DeepSeek-V4.1-Flash通过跨层复用和FP4量化,全局KV缓存降至每Token约890字节,约为上一代V4-Flash的1/4。官方称,新模型的HBM需求降至上一代的1/4、SSD需求降至1/8。

DeepSeek也在抢购华为芯片,数量至少16万卡,建设自己的GW级数据中心;它同样在用AI优化算子。

以灵衢为灵魂

而在算力侧,华为也在响应本土AI生态的需求。在ICT和计算领域,它的目标是成为英伟达,确保全球任何大模型,都能在华为的昇腾、鲲鹏、超算节点和集群上高效运行。

想要成为英伟达,华为需要遵循半导体的物理法则,也需要独辟蹊径。今年至今,华为已经发表了两篇关键论文,尝试为自己提供一套新的解释框架与技术叙事。

一篇是华为半导体业务负责人何庭波的《多层电子系统的时间扩展理论》,即“韬(τ)定律”。它的核心思路,是不再将晶体管几何尺寸的缩小,视为半导体持续进步的唯一方向,而是从信号传播时间、逻辑结构等方面,寻找计算性能继续提升的空间。

它的现实价值,在于为短期内先进光刻仍然无法国产替代的AI算力,找到一条单芯片性能继续“等效”进步的道路。但它首先会在消费电子芯片上尝试,真正的AI芯片的“逻辑折叠”,需要等到2030年前后,即昇腾990这一代际。

另一篇关键论文,为国产AI算力“长达”数年的过渡期指明了方向。它是华为半导体首席科学家、昇腾总架构师廖恒撰写的《嵌套并行冯·诺依曼架构与嵌套式BSP》。廖恒认为,冯·诺依曼教会我们,如何构建一台存储程序计算机;但八十年来的错误推论是,认为将多台计算机连接成网络就能形成一台更大的计算机。

如何在单一环节继续提升性能之外,找到从芯片、节点到大规模计算系统的整体扩展路径。论文提到,实现该原理的硬件,就是灵衢(UnifiedBus)。

在这周的华为全联接大会2026期间,AI芯片仍然是最吸引市场目光的。华为宣布下一代的960DT比原计划提前三个季度,2027年第一季度就绪;960PR比原计划提前一个季度,2027年第三季度就绪。

华为仍然在追赶与英伟达的单卡性能的差距。这一次,华为针对FP4进行更深度的优化;“黄氏定律”也是这么干的。在FP4精度下,960PR的算力性能为8 PFLOPS,是FP8精度下的4倍,而非传统的2倍;这也相当于B300的约53%。而除了算力指标,明年发售的960DT,在内存与通信等性能上都超越了当前一代的B300。


但本届全联结大会,最能反映“成为英伟达”的场景之一,就是华为拿出来围绕灵衢互联的11颗关键芯片,涉及算、存、管、联,比英伟达的Vera Rubin架构还多4颗。这是将更多处理器连接成一台逻辑统一的计算机的基础组件。


华为发布了全新的超节点(SuperPoD)与超节点集群(SuperClusters)。其中,昇腾960超节点,可扩展至4096卡规模,是950超节点的4倍;而910C只能构建384卡的超节点。此外,多个960超节点可以通过二层CLOS四平面组网与多轨道拓扑技术,将超节点集群的最大规模,分别扩展至51.2万卡与100万卡。

更大更高效的算力集群,不仅为越来越庞大的智能体群体提供算力,也将是SOTA模型预训练的关键。

这一次,华为明确提到了十万亿参数级的SOTA模型的预训练。在传统计算架构下,集群规模扩大,资源利用率反而下降。但华为看到,在同样十万卡集群下,4096卡超节点组成的集群相对行业八卡服务器组成的集群,MFU(模型浮点算力利用率)可提升2.75倍。


为了让超节点更为高效,华为还发布了推出了全球首个NPO光引擎Hi-ONE,以及全新的AI记忆存储架构OceanStor M900。

在昇腾960超节点,用5500个Hi-ONE替代原本的4万8千颗800G光模块,可以降低超550千瓦功耗。简单推算一下,这相当于为单个超节点省下了482万度电/年,10万卡集群就相当于1.2亿度/年。去年,中国的AI芯片市场合计超过400万卡,而到2030年中国算力规模之上将较2025年大幅增长6倍多。

更重要的是,尽管通信环节的功耗并不直接生产Token,但热管理决定了整个算力系统能否持续以目标功率运行,进而影响实际的Token产出。

而它的AI记忆存储架构,根据不同工作负载需求,基于灵衢“一跳直通”,避免协议转换和CPU转发,在典型AI编程场景中,可实现推理集群Token吞吐率翻倍、首Token时延缩短一半。


目前,一个由25.6万卡组成的Atlas 950超集群正在部署。梁文锋曾提到过,目前闭源前沿模型的活跃参数已经达到了8000亿,达到这一水平,需要5万张GB3000 ,或者不少于20万张昇腾950。

OpenAI用了十万张英伟达GB200/300集群训练出了GPT-6 Astra,目前正在部署一个40万卡GPU的集群。

数十万卡集群、十万亿参数模型,中国本土AI生态,正在从算力与模型两侧出发,围绕同一个效率目标自然协同,并将在明年逐步兑现。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“1600元烤全羊剥不出一两肉”,四川平武县通报

“1600元烤全羊剥不出一两肉”,四川平武县通报

扬子晚报
2026-11-18 21:35:50
央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

晓肂爱八卦
2026-11-17 20:47:39
当年脚踩熊猫杯的韩国球员今何在?有人留洋梦碎,有人沦为边缘人

当年脚踩熊猫杯的韩国球员今何在?有人留洋梦碎,有人沦为边缘人

墨策讲历史
2026-11-18 21:41:29
盘点网友们分享的亲身经过的奇闻逸事,网友:有些事没法解释清楚

盘点网友们分享的亲身经过的奇闻逸事,网友:有些事没法解释清楚

另子维爱读史
2026-11-18 20:46:42
告诉你一个心理学秘密:千万不要提前焦虑,事情会以奇特方式解决

告诉你一个心理学秘密:千万不要提前焦虑,事情会以奇特方式解决

松果正念袁老师
2025-03-11 20:52:18
官媒发文!46岁谢霆锋正式上任,职责重大,早和张柏芝拉开距离

官媒发文!46岁谢霆锋正式上任,职责重大,早和张柏芝拉开距离

错过美好
2026-11-18 13:37:21
NBA最年轻连续三场40+后卫空降香港 替代班顿加盟山东高速概率远大于广东

NBA最年轻连续三场40+后卫空降香港 替代班顿加盟山东高速概率远大于广东

生活新鲜市
2026-11-19 01:27:24
多国代表赴深圳,中方高规格礼宾,三军仪仗队亮相,APEC需要中国

多国代表赴深圳,中方高规格礼宾,三军仪仗队亮相,APEC需要中国

感谢过往的自己
2026-11-17 17:35:29
俄已解除禁杀令,允许暗杀泽连斯基?特朗普坦言:普京已经让步了

俄已解除禁杀令,允许暗杀泽连斯基?特朗普坦言:普京已经让步了

国际法大视野
2026-11-17 15:18:04
优雅知性的女人最美丽,气质高贵有内涵

优雅知性的女人最美丽,气质高贵有内涵

疾跑的小蜗牛
2026-10-22 20:02:34
异地奔现第一天,男生提出同住被拒,直言:一次花费两千,不划算

异地奔现第一天,男生提出同住被拒,直言:一次花费两千,不划算

王二哥老搞笑
2026-11-19 01:50:10
女排联赛积分榜:天津力克上海全胜领跑,江苏不敌山东遭首败

女排联赛积分榜:天津力克上海全胜领跑,江苏不敌山东遭首败

乒桢泳球
2026-11-18 22:02:03
宫斗还是跪求?黄仁勋突然发长文:我爱美国,我爱英伟达,我想重回CEO(全文)

宫斗还是跪求?黄仁勋突然发长文:我爱美国,我爱英伟达,我想重回CEO(全文)

起点财经
2026-11-18 08:53:45
APEC氛围拉满,西班牙学者感慨引共鸣:外国人也希望能有一个深圳

APEC氛围拉满,西班牙学者感慨引共鸣:外国人也希望能有一个深圳

生活魔术专家
2026-11-18 17:18:42
厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

静若梨花
2026-11-16 22:23:40
儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

温情邮局
2025-09-28 11:57:16
捷达M6:别被8万的价格骗了,有些缺点你可能忍不了!

捷达M6:别被8万的价格骗了,有些缺点你可能忍不了!

百车全说
2026-11-19 01:31:37
误闯天家! 浙江丽水“富家千金”柳晶出嫁,八抬大轿凤冠霞帔,席开近50桌,每桌搭配茅台

误闯天家! 浙江丽水“富家千金”柳晶出嫁,八抬大轿凤冠霞帔,席开近50桌,每桌搭配茅台

裕丰娱间说
2026-11-18 11:42:42
会一起停下来吗?苏亚雷斯透露梅西推迟退役的秘密

会一起停下来吗?苏亚雷斯透露梅西推迟退役的秘密

本泽体育
2026-11-18 06:12:15
美国智库感到不安:中国空军组织大规模演习,有一项数据极为惊人

美国智库感到不安:中国空军组织大规模演习,有一项数据极为惊人

小广说历史
2026-11-17 22:55:55
2026-11-19 03:03:00
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
健康
教育
时尚
军事航空

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

医生眼里"很伤腰"的椅子,很多人天天坐

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版