网易首页 > 网易号 > 正文 申请入驻

从Muse到普罗米修斯:Meta的AI工厂,正在变成一张算力网

0
分享至

Meta最近发布Muse Wonder与Muse Wonder Full,标志着它重返前沿AI之列,并为个人智能体战略提供技术支撑。

Meta介绍,两款模型都在超级算力集群普罗米修斯(Prometheus)上完成训练。理解它们的能力,不能只看算法,还要看背后那套支撑预训练和强化学习的生产系统。

Meta进一步公开了普罗米修斯的建设进展和重要细节,与它此前介绍的BAG网络、MAST调度系统放在一起,一种总体构想逐渐清晰:AI工厂正在突破单一建筑和园区的边界,成为由高性能互联、全球调度和分布式训练共同组织起来的计算网络。 从这个意义上说,Meta正在建设一张“企业级算力网”,并且把下一代大模型的竞争门槛,向百万卡级基础设施提升。


(来源:Meta Engineering)

普罗米修斯,向百万卡扩展

位于俄亥俄州新奥尔巴尼的普罗米修斯,正在从服务互联网流量的数据中心,改造为吉瓦级AI超级集群。Meta披露,一期已经完成,目前数十万GPU分布于多座互联建筑,继续向约100万GPU扩展。

规模越大,芯片充分发挥作用难度越大。GPU之间要交换数据,故障后要恢复训练,供电与冷却也必须跟上。为加快建设,Meta结合既有建筑、快速部署结构和邻近托管设施,并同步改进软件,以支持跨地点训练。这不是等待一座完美的新园区全部建成,而是把不同地点、不同交付阶段的资源组织起来。

系统的稳定性和可靠性, 决定了Muse Wonder的有效训练效率(goodput),预训练吞吐量提升至 85% 以上,强化学习 (RL) 吞吐量提升至 90% 以上。训练过程还实现了约 4.7 万 GPU 小时的平均中断间隔时间 (MTBI)。此后,整个系统进一步改进,包括固件修复,MTBI 提升至 5.4 万 GPU 小时以上,这一指标还还在优化之中。通过与英伟达联合解决NVLink、HBM、网络及固件故障,训练中断事件较最严重时期下降约99%。

Meta透露,在一个需要32768张GPU实际工作的训练任务中,为实现容错,必须配置37656张GPU,即额外冗余接近4900张。这比实际参与训练的GPU数量多出的近15%,要从整个系统所获得稳定性的提升弥补。

AI工厂的边界由此不再完全由所在的厂区决定,而越来越由一个问题决定:分散的设备能否高效地共同推进计算任务?普罗米修斯提供物理载体,网络和软件则决定这些资产能否合成生产能力。

BAG:跨建筑跨区域互联

承担跨建筑、跨区域互联的关键技术是BAG(Backend Aggregation),即后端网络聚合层。它是基于以太网的“超级脊骨层”,向下连接不同建筑的GPU网络,横向连接其他聚合节点。普通网络让机器彼此可达,BAG则要让大量GPU高效交换训练数据。Meta披露,区域对之间的互联容量可达16-48Pbps;不过,它并不是一个所有方向都拥有等量带宽的无阻塞网络,而是按训练需求分层配置带宽。在普罗米修斯中,这种互联跨越约2公里至100多公里。

网络可以扩大带宽,却不能取消光传播的时间。Meta采取的方法,是让训练方式适应网络:需要频繁交换数据的紧耦合计算尽量留在同一建筑或近距离区域;不同的数据并行副本则可以部署在不同数据中心。各副本处理不同批次的样本,再交换梯度,共同改进模型。这仍然可以是同一个训练任务,但不要求每次细粒度计算都跨越百公里同步。

故障处理也要遵循这种分组。Meta的FT-HSDP研究以数据并行副本为恢复单位,一个副本出故障时让它退出、恢复,其他副本继续训练。据Meta公布的研究报告,在约十万GPU规模下,有效训练时间占比由44%提高到80%。扩大集群的关键,不只是增加设备,也包括减少整个系统的等待和停顿。


(来源:Meta Engineering)

MAST:决定任务和数据的去向

BAG解决怎样连起来一起算,却不负责决定具体任务去哪里算。后一个问题,属于MAST——Meta的全球机器学习训练调度系统。

Meta在2024年的论文中描述,过去用户先选数据中心区域,再上传数据、申请当地GPU。选择一旦固化,就可能出现一个区域排长队,另一个区域却有空闲资源。MAST改变了这个流程:研究者提交任务,系统综合资源与需求,安排训练任务及所需数据的落点。

数据搬迁比任务分配慢,因此MAST还把调度分为不同时间尺度:较慢的后台过程持续优化数据放置与资源安排,较快的过程处理任务启动。它不是每来一个任务,就临时把海量数据搬过半个大陆。

其效果被证明是显著的。论文披露,优化前,最拥挤区域高优先级任务的GPU需求与供给之比为2.63;优化后降至0.98。这不是GPU性能提高了2.7倍,而是原本错配的需求与设备被重新组织起来。

两者因此互补,MAST在更大范围内匹配任务、数据与资源,BAG让选定的计算资源能够紧密协作。 全球任务调度与跨数据中心联合训练,不是二选一,也不意味着所有地点都必须参加同一个同步作业。

跨芯片系统、跨供电系统协同

把这些能力放在一起,Meta的总体方向可以概括为,把分布于不同地点的计算设施,组织成一个可分配、可协作、可恢复的生产体系。BAG只是其中的网络层,不是整张算力网。

这里也不能忽略异构。普罗米修斯目前披露的主要是NVIDIA GB200、GB300平台,也正在部署Vera Rubin;但Meta整体还使用AMD GPU与自研MTIA加速器。其KernelEvolve系统会为不同硬件生成、验证和优化计算内核,以降低模型适配成本。拥有多种芯片、模型能高效迁移,与不同架构在同一个任务中高效混训,是不同层次的异构能力,不能互相替代。

电力同样在进入计算控制。Meta今年一篇关于150MW、约8.3万颗GB200集群的研究,介绍了动态功率管理系统Dimmer:接近供电设备容量上限时,结合任务信息调整GPU功率,避免局部限功率拖慢整个重要作业。研究还提出,下一步应把供电拓扑与网络拓扑共同纳入任务布局。

由此看来,Meta建设的不是一条只会扩容的硬件流水线,而是一套持续动态调整的生产组织,有些任务应该集中,有些可以分散;有些数据应提前复制,有些应就地处理;有些局部性能可以适度让步,以换取整体运行效率。

企业级与国家级算力网

Meta这条路径,与中国全国一体化算力网确有共同逻辑,都不满足于建设更多机房,而要把分散资源变成可调度、可使用的计算能力。国家数据局特别解释,算力调度并非像输电那样“输送算力”,而是通过网络,把数据与计算任务安排到算力中心。这个定义与MAST处理的问题相当接近。

真正的差异,是中国政策所说的“异属、异构、异地”同时存在。国家算力网需要跨越资源所有权、硬件架构和地理位置,还要统筹通用计算、智能计算与超级计算,建立计量计费、交易结算、安全和绿电协同机制。

Meta可以在企业内部协调采购、软件、模型需求与资源分配;国家级体系面对的则是许多拥有独立利益和技术选择的参与者。一家企业能以内部规则解决的问题,跨企业后往往需要公共标准、契约和市场机制。统一调度也不应理解为一个中央调度器接管全国每颗芯片,更合理的方向是分层管理、跨域协作。

因此,在对比企业级算力网与国家级算力网时,不宜把二者简单分成前者做同步训练,后者做任务交易。工信部的算力互联互通政策也包括高性能互联及异构智算集群混训,只是这些是需要逐项实现的目标,不代表所有资源已经可以无差别组合。反过来,Meta也早已在做跨区域资源匹配,而不只建设紧耦合超级集群。

两者共同的,是这种分层思想:近距离资源承担高频通信的大任务,远距离资源更多通过任务和数据调度共享;异构平台先做到可用和高效迁移,再判断混训是否划算;电力条件进入部署与运行决策,而不是最后才补上的限制。算力网的目标,不是让所有芯片任何时候都一起工作,而是让合适的资源以合适的方式协作。

从Muse Wonder回望普罗米修斯,AI竞争的单位正在变化:不只是一个模型、一颗芯片或一座数据中心,而是一套能够持续产出有效智能的系统。企业级算力网首先回答“怎样把自己的资源用好”;国家级算力网还要回答“怎样让不同主体的资源彼此好用”。 两者共同的衡量尺度,不应只是接入多少GPU、建成多少兆瓦,而是这些资源最终完成了多少有价值的计算。

主要参考:

https://engineering.fb.com/2026/10/19/data-center-engineering/inside-prometheus-meta-gigawatt-scale-supercluster/?utm_source=chatgpt.com

https://engineering.fb.com/2026/02/09/data-center-engineering/building-prometheus-how-backend-aggregation-enables-gigawatt-scale-ai-clusters/

https://www.usenix.org/system/files/osdi24-choudhury.pdf

https://www.ndrc.gov.cn/xxgk/zcfb/tz/202312/t20231229_1363000.html

https://www.nda.gov.cn/sjj/jgsz/jld/llh/llhldhd/0323/20260323202204680553721_pc.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“1600元烤全羊剥不出一两肉”,四川平武县通报

“1600元烤全羊剥不出一两肉”,四川平武县通报

扬子晚报
2026-11-18 21:35:50
央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

央视主持人天团亮相深圳,康辉咖位大,邹韵镇场,新主持人扛大旗

晓肂爱八卦
2026-11-17 20:47:39
当年脚踩熊猫杯的韩国球员今何在?有人留洋梦碎,有人沦为边缘人

当年脚踩熊猫杯的韩国球员今何在?有人留洋梦碎,有人沦为边缘人

墨策讲历史
2026-11-18 21:41:29
盘点网友们分享的亲身经过的奇闻逸事,网友:有些事没法解释清楚

盘点网友们分享的亲身经过的奇闻逸事,网友:有些事没法解释清楚

另子维爱读史
2026-11-18 20:46:42
告诉你一个心理学秘密:千万不要提前焦虑,事情会以奇特方式解决

告诉你一个心理学秘密:千万不要提前焦虑,事情会以奇特方式解决

松果正念袁老师
2025-03-11 20:52:18
官媒发文!46岁谢霆锋正式上任,职责重大,早和张柏芝拉开距离

官媒发文!46岁谢霆锋正式上任,职责重大,早和张柏芝拉开距离

错过美好
2026-11-18 13:37:21
NBA最年轻连续三场40+后卫空降香港 替代班顿加盟山东高速概率远大于广东

NBA最年轻连续三场40+后卫空降香港 替代班顿加盟山东高速概率远大于广东

生活新鲜市
2026-11-19 01:27:24
多国代表赴深圳,中方高规格礼宾,三军仪仗队亮相,APEC需要中国

多国代表赴深圳,中方高规格礼宾,三军仪仗队亮相,APEC需要中国

感谢过往的自己
2026-11-17 17:35:29
俄已解除禁杀令,允许暗杀泽连斯基?特朗普坦言:普京已经让步了

俄已解除禁杀令,允许暗杀泽连斯基?特朗普坦言:普京已经让步了

国际法大视野
2026-11-17 15:18:04
优雅知性的女人最美丽,气质高贵有内涵

优雅知性的女人最美丽,气质高贵有内涵

疾跑的小蜗牛
2026-10-22 20:02:34
异地奔现第一天,男生提出同住被拒,直言:一次花费两千,不划算

异地奔现第一天,男生提出同住被拒,直言:一次花费两千,不划算

王二哥老搞笑
2026-11-19 01:50:10
女排联赛积分榜:天津力克上海全胜领跑,江苏不敌山东遭首败

女排联赛积分榜:天津力克上海全胜领跑,江苏不敌山东遭首败

乒桢泳球
2026-11-18 22:02:03
宫斗还是跪求?黄仁勋突然发长文:我爱美国,我爱英伟达,我想重回CEO(全文)

宫斗还是跪求?黄仁勋突然发长文:我爱美国,我爱英伟达,我想重回CEO(全文)

起点财经
2026-11-18 08:53:45
APEC氛围拉满,西班牙学者感慨引共鸣:外国人也希望能有一个深圳

APEC氛围拉满,西班牙学者感慨引共鸣:外国人也希望能有一个深圳

生活魔术专家
2026-11-18 17:18:42
厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

厉娜的瓜太炸裂了!2018年,她和经纪人在外面放贷,厉娜出了780万,经纪人出了1030万,一共1810万借给陈某,利息高达36%!

静若梨花
2026-11-16 22:23:40
儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

儿子考上清大4年没回家,母亲到学校去探望,招生办:查无此人

温情邮局
2025-09-28 11:57:16
捷达M6:别被8万的价格骗了,有些缺点你可能忍不了!

捷达M6:别被8万的价格骗了,有些缺点你可能忍不了!

百车全说
2026-11-19 01:31:37
误闯天家! 浙江丽水“富家千金”柳晶出嫁,八抬大轿凤冠霞帔,席开近50桌,每桌搭配茅台

误闯天家! 浙江丽水“富家千金”柳晶出嫁,八抬大轿凤冠霞帔,席开近50桌,每桌搭配茅台

裕丰娱间说
2026-11-18 11:42:42
会一起停下来吗?苏亚雷斯透露梅西推迟退役的秘密

会一起停下来吗?苏亚雷斯透露梅西推迟退役的秘密

本泽体育
2026-11-18 06:12:15
美国智库感到不安:中国空军组织大规模演习,有一项数据极为惊人

美国智库感到不安:中国空军组织大规模演习,有一项数据极为惊人

小广说历史
2026-11-17 22:55:55
2026-11-19 03:03:00
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

艺术
亲子
本地
旅游
手机

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

亲子要闻

宝宝气人但是聪明的4个行为

本地新闻

乌兰察布:以前种土豆,现在种Token

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

无障碍浏览 进入关怀版