网易首页 > 网易号 > 正文 申请入驻

从Muse到普罗米修斯:Meta的AI工厂,正在变成一张算力网

0
分享至

Meta最近发布Muse Wonder与Muse Wonder Full,标志着它重返前沿AI之列,并为个人智能体战略提供技术支撑。

Meta介绍,两款模型都在超级算力集群普罗米修斯(Prometheus)上完成训练。理解它们的能力,不能只看算法,还要看背后那套支撑预训练和强化学习的生产系统。

Meta进一步公开了普罗米修斯的建设进展和重要细节,与它此前介绍的BAG网络、MAST调度系统放在一起,一种总体构想逐渐清晰:AI工厂正在突破单一建筑和园区的边界,成为由高性能互联、全球调度和分布式训练共同组织起来的计算网络。 从这个意义上说,Meta正在建设一张“企业级算力网”,并且把下一代大模型的竞争门槛,向百万卡级基础设施提升。


(来源:Meta Engineering)

普罗米修斯,向百万卡扩展

位于俄亥俄州新奥尔巴尼的普罗米修斯,正在从服务互联网流量的数据中心,改造为吉瓦级AI超级集群。Meta披露,一期已经完成,目前数十万GPU分布于多座互联建筑,继续向约100万GPU扩展。

规模越大,芯片充分发挥作用难度越大。GPU之间要交换数据,故障后要恢复训练,供电与冷却也必须跟上。为加快建设,Meta结合既有建筑、快速部署结构和邻近托管设施,并同步改进软件,以支持跨地点训练。这不是等待一座完美的新园区全部建成,而是把不同地点、不同交付阶段的资源组织起来。

系统的稳定性和可靠性, 决定了Muse Wonder的有效训练效率(goodput),预训练吞吐量提升至 85% 以上,强化学习 (RL) 吞吐量提升至 90% 以上。训练过程还实现了约 4.7 万 GPU 小时的平均中断间隔时间 (MTBI)。此后,整个系统进一步改进,包括固件修复,MTBI 提升至 5.4 万 GPU 小时以上,这一指标还还在优化之中。通过与英伟达联合解决NVLink、HBM、网络及固件故障,训练中断事件较最严重时期下降约99%。

Meta透露,在一个需要32768张GPU实际工作的训练任务中,为实现容错,必须配置37656张GPU,即额外冗余接近4900张。这比实际参与训练的GPU数量多出的近15%,要从整个系统所获得稳定性的提升弥补。

AI工厂的边界由此不再完全由所在的厂区决定,而越来越由一个问题决定:分散的设备能否高效地共同推进计算任务?普罗米修斯提供物理载体,网络和软件则决定这些资产能否合成生产能力。

BAG:跨建筑跨区域互联

承担跨建筑、跨区域互联的关键技术是BAG(Backend Aggregation),即后端网络聚合层。它是基于以太网的“超级脊骨层”,向下连接不同建筑的GPU网络,横向连接其他聚合节点。普通网络让机器彼此可达,BAG则要让大量GPU高效交换训练数据。Meta披露,区域对之间的互联容量可达16-48Pbps;不过,它并不是一个所有方向都拥有等量带宽的无阻塞网络,而是按训练需求分层配置带宽。在普罗米修斯中,这种互联跨越约2公里至100多公里。

网络可以扩大带宽,却不能取消光传播的时间。Meta采取的方法,是让训练方式适应网络:需要频繁交换数据的紧耦合计算尽量留在同一建筑或近距离区域;不同的数据并行副本则可以部署在不同数据中心。各副本处理不同批次的样本,再交换梯度,共同改进模型。这仍然可以是同一个训练任务,但不要求每次细粒度计算都跨越百公里同步。

故障处理也要遵循这种分组。Meta的FT-HSDP研究以数据并行副本为恢复单位,一个副本出故障时让它退出、恢复,其他副本继续训练。据Meta公布的研究报告,在约十万GPU规模下,有效训练时间占比由44%提高到80%。扩大集群的关键,不只是增加设备,也包括减少整个系统的等待和停顿。


(来源:Meta Engineering)

MAST:决定任务和数据的去向

BAG解决怎样连起来一起算,却不负责决定具体任务去哪里算。后一个问题,属于MAST——Meta的全球机器学习训练调度系统。

Meta在2024年的论文中描述,过去用户先选数据中心区域,再上传数据、申请当地GPU。选择一旦固化,就可能出现一个区域排长队,另一个区域却有空闲资源。MAST改变了这个流程:研究者提交任务,系统综合资源与需求,安排训练任务及所需数据的落点。

数据搬迁比任务分配慢,因此MAST还把调度分为不同时间尺度:较慢的后台过程持续优化数据放置与资源安排,较快的过程处理任务启动。它不是每来一个任务,就临时把海量数据搬过半个大陆。

其效果被证明是显著的。论文披露,优化前,最拥挤区域高优先级任务的GPU需求与供给之比为2.63;优化后降至0.98。这不是GPU性能提高了2.7倍,而是原本错配的需求与设备被重新组织起来。

两者因此互补,MAST在更大范围内匹配任务、数据与资源,BAG让选定的计算资源能够紧密协作。 全球任务调度与跨数据中心联合训练,不是二选一,也不意味着所有地点都必须参加同一个同步作业。

跨芯片系统、跨供电系统协同

把这些能力放在一起,Meta的总体方向可以概括为,把分布于不同地点的计算设施,组织成一个可分配、可协作、可恢复的生产体系。BAG只是其中的网络层,不是整张算力网。

这里也不能忽略异构。普罗米修斯目前披露的主要是NVIDIA GB200、GB300平台,也正在部署Vera Rubin;但Meta整体还使用AMD GPU与自研MTIA加速器。其KernelEvolve系统会为不同硬件生成、验证和优化计算内核,以降低模型适配成本。拥有多种芯片、模型能高效迁移,与不同架构在同一个任务中高效混训,是不同层次的异构能力,不能互相替代。

电力同样在进入计算控制。Meta今年一篇关于150MW、约8.3万颗GB200集群的研究,介绍了动态功率管理系统Dimmer:接近供电设备容量上限时,结合任务信息调整GPU功率,避免局部限功率拖慢整个重要作业。研究还提出,下一步应把供电拓扑与网络拓扑共同纳入任务布局。

由此看来,Meta建设的不是一条只会扩容的硬件流水线,而是一套持续动态调整的生产组织,有些任务应该集中,有些可以分散;有些数据应提前复制,有些应就地处理;有些局部性能可以适度让步,以换取整体运行效率。

企业级与国家级算力网

Meta这条路径,与中国全国一体化算力网确有共同逻辑,都不满足于建设更多机房,而要把分散资源变成可调度、可使用的计算能力。国家数据局特别解释,算力调度并非像输电那样“输送算力”,而是通过网络,把数据与计算任务安排到算力中心。这个定义与MAST处理的问题相当接近。

真正的差异,是中国政策所说的“异属、异构、异地”同时存在。国家算力网需要跨越资源所有权、硬件架构和地理位置,还要统筹通用计算、智能计算与超级计算,建立计量计费、交易结算、安全和绿电协同机制。

Meta可以在企业内部协调采购、软件、模型需求与资源分配;国家级体系面对的则是许多拥有独立利益和技术选择的参与者。一家企业能以内部规则解决的问题,跨企业后往往需要公共标准、契约和市场机制。统一调度也不应理解为一个中央调度器接管全国每颗芯片,更合理的方向是分层管理、跨域协作。

因此,在对比企业级算力网与国家级算力网时,不宜把二者简单分成前者做同步训练,后者做任务交易。工信部的算力互联互通政策也包括高性能互联及异构智算集群混训,只是这些是需要逐项实现的目标,不代表所有资源已经可以无差别组合。反过来,Meta也早已在做跨区域资源匹配,而不只建设紧耦合超级集群。

两者共同的,是这种分层思想:近距离资源承担高频通信的大任务,远距离资源更多通过任务和数据调度共享;异构平台先做到可用和高效迁移,再判断混训是否划算;电力条件进入部署与运行决策,而不是最后才补上的限制。算力网的目标,不是让所有芯片任何时候都一起工作,而是让合适的资源以合适的方式协作。

从Muse Wonder回望普罗米修斯,AI竞争的单位正在变化:不只是一个模型、一颗芯片或一座数据中心,而是一套能够持续产出有效智能的系统。企业级算力网首先回答“怎样把自己的资源用好”;国家级算力网还要回答“怎样让不同主体的资源彼此好用”。 两者共同的衡量尺度,不应只是接入多少GPU、建成多少兆瓦,而是这些资源最终完成了多少有价值的计算。

主要参考:

https://engineering.fb.com/2026/10/19/data-center-engineering/inside-prometheus-meta-gigawatt-scale-supercluster/?utm_source=chatgpt.com

https://engineering.fb.com/2026/02/09/data-center-engineering/building-prometheus-how-backend-aggregation-enables-gigawatt-scale-ai-clusters/

https://www.usenix.org/system/files/osdi24-choudhury.pdf

https://www.ndrc.gov.cn/xxgk/zcfb/tz/202312/t20231229_1363000.html

https://www.nda.gov.cn/sjj/jgsz/jld/llh/llhldhd/0323/20260323202204680553721_pc.html

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
黄仁勋事件,美国政府突然回过味来

黄仁勋事件,美国政府突然回过味来

牛弹琴
2026-11-18 07:40:33
已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

DS北风
2026-11-18 16:26:03
男子认48岁女房东当干妈,每周去其家中蹭饭,酿成一场悲剧

男子认48岁女房东当干妈,每周去其家中蹭饭,酿成一场悲剧

晓艾故事汇
2025-09-08 17:00:17
1000 天伤停!皇马王牌被彻底摧毁!穆里尼奥也救不了他

1000 天伤停!皇马王牌被彻底摧毁!穆里尼奥也救不了他

奶盖熊本熊
2026-11-18 08:50:24
台上卖力地表演,台下的看客不买账了!

台上卖力地表演,台下的看客不买账了!

胖胖说他不胖
2026-11-17 11:50:11
台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

磊子讲史
2026-11-16 14:38:55
中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

吃瓜小侦探
2026-11-18 09:29:05
什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

黯泉
2026-11-16 18:53:19
特朗普车队抵达酒店,马斯克现身

特朗普车队抵达酒店,马斯克现身

21世纪经济报道
2026-11-19 00:21:19
车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

触摸史迹
2026-11-17 09:20:45
周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

火山詩话
2026-11-14 11:10:23
杨瀚森又遭弃用:本季第6次DNP 央视播一半中途弃播比赛表态度

杨瀚森又遭弃用:本季第6次DNP 央视播一半中途弃播比赛表态度

醉卧浮生
2026-11-18 11:38:39
梅西接班人!22岁小巨星狂舞:左右脚世界波 万人高歌致敬

梅西接班人!22岁小巨星狂舞:左右脚世界波 万人高歌致敬

叶青足球世界
2026-11-18 09:02:40
江苏女排无缘四连胜,爆冷输球全因这2人,两大国手疯狂失误18次

江苏女排无缘四连胜,爆冷输球全因这2人,两大国手疯狂失误18次

南海浪花
2026-11-18 22:04:22
一张假脸拉胯整部剧?蒋欣新剧里的女二号,嘴和鼻歪的真让人出戏

一张假脸拉胯整部剧?蒋欣新剧里的女二号,嘴和鼻歪的真让人出戏

不似少年游
2026-11-17 14:23:19
受贿数额特别巨大,中国农业发展银行原党委委员、副行长徐一丁被提起公诉

受贿数额特别巨大,中国农业发展银行原党委委员、副行长徐一丁被提起公诉

每日经济新闻
2026-11-18 18:43:23
高迪曝陈泽大瓜!甩出多张截图,聊天记录不堪入目,陈泽最新回应

高迪曝陈泽大瓜!甩出多张截图,聊天记录不堪入目,陈泽最新回应

杨仔述
2026-11-18 12:57:26
认义父被曹云金嘲讽后,郭德纲终于回应,扯下曲艺圈的“遮羞布”

认义父被曹云金嘲讽后,郭德纲终于回应,扯下曲艺圈的“遮羞布”

可乐谈情感
2026-11-19 01:06:00
中美俄三方会晤前,普京点赞中国,特朗普说了句令人意外的话

中美俄三方会晤前,普京点赞中国,特朗普说了句令人意外的话

新浪财经
2026-11-18 08:49:37
1-2惜败!中国香港U17功亏一篑,提前一轮出局,无缘亚洲杯正赛

1-2惜败!中国香港U17功亏一篑,提前一轮出局,无缘亚洲杯正赛

绿茵舞着
2026-11-18 20:41:45
2026-11-19 02:48:49
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
游戏
本地
时尚
军事航空

数码要闻

微星RTX Spark迷你主机EdgeMesa N AI+上市,售价33999元起

《GTA6》不设任务重玩菜单,提供15个存档槽

本地新闻

乌兰察布:以前种土豆,现在种Token

穿好“长大衣”,这8个细节很重要!

军事要闻

美军再袭伊朗格什姆岛

无障碍浏览 进入关怀版