网易首页 > 网易号 > 正文 申请入驻

英伟达投的AI Infra创企发模型工厂!支持数千卡集群训练万亿MoE

0
分享至


智东西
编译 孙小雯
编辑 程茜

智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支持在千张以上GPU集群上训练万亿参数以上的MoE模型。


▲Prime Intellect发布Model Factory(图源:X)

Model Factory将预训练、继续训练、监督微调、强化学习和模型推理纳入统一平台,并支持将模型上线后的执行记录用于后续训练。科学研究、芯片设计、金融等专业领域的团队,可以围绕自己的任务和数据训练、部署并持续改进模型。

据该公司透露,其训练规模可扩展至数千张GPU。基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。

目前,Model Factory支持按需托管(On-demand)和专属部署(Dedicated)两种服务方式。其中,专属部署支持客户自定义训练框架,并通过Slurm、Kubernetes直接提交并安排计算任务。此外,专属部署还支持为训练团队检查机器健康状态、自动替换故障机器,并从最近存档恢复训练。

定价方面,按需托管的训练费根据GPU型号、数量和占用时间计算,按秒折算,该模式下的数据存储另按每GiB每月0.09美元(约合人民币0.60元)收费,平台在任务启动前显示并锁定训练单价,不收取排队、调度和下载运行环境期间的费用。专属部署方案定制化收费。

Prime Intellect成立于2023年,主要为企业和研究团队提供GPU算力租赁、模型训练、评测和部署服务,并以API方式提供模型推理服务。此前,该公司曾宣布完成累计超1.5亿美元(约合人民币10.07亿元)的三轮融资,英伟达风投、英特尔资本为其A轮投资方。

据该公司今年7月披露,其年化营收规模(ARR)在不到一年内超过1亿美元(约合人民币6.71亿元)。目前,该公司客户超过6000家,并曾与英伟达共建2500项经过验证的跨应用企业任务。

该公司称,此前,仅前沿实验室能够完成训练及改进模型的全过程闭环,而Model Factory将打破这一技术藩篱。通过Model Factory,任何从事科学发现、芯片设计、金融等专业领域的团队,都可以基于自己的任务和数据进行模型训练及部署。

一、支持数千张GPU训练,提供模型一键部署服务

Model Factory由该公司此前推出的模型训练平台Lab升级而来。Lab主打托管服务,主要支持用户通过LoRA微调开展强化学习。此次升级进一步扩大了训练范围,并为需要深入修改训练系统的团队提供专属部署服务。


▲Model Factory与此前Lab的功能对比(图源:Prime Intellect)

Model Factory支持预训练、继续训练、监督微调(SFT)和强化学习(RL)。用户提交训练配置后,可以按GPU小时付费使用托管训练,也可以选择专用部署,预留算力并调整底层系统。

在监督微调环节,用户可以从平台目录中选择现有开源模型,也可以导入自己已有的模型,再让上述模型学习成功案例、操作示范和专业领域回答。微调后的模型既可以直接使用,也可以继续接受强化学习训练。

开展强化学习时,用户需要设置训练环境,为模型提供练习任务、完成任务可用的工具,以及判断结果好坏的评分规则。开源平台Environments Hub中有超过2500个由社区开发者提供的现成训练环境,让模型在其中练习任务、接受评分,并按业务需求调整环境设置。研究人员可以跟踪奖励分数、检查执行过程;需要编写代码或调用工具的智能体还可使用隔离沙箱,平台支持数万个沙箱并发运行。


▲Model Factory强化学习训练演示(图源:Prime Intellect)

针对新模型开发和基座模型训练,平台支持预训练、继续训练,以及不同模型架构、训练目标和算法的实验。该公司称,训练规模可扩展至数千张GPU,基于Qwen3-235B-A22B模型,MoE训练融合内核Prime Mega MoE在H200显卡上实现了48%的模型浮点算力利用率(MFU)。


▲Model Factory预训练实验演示(图源:Prime Intellect)

模型评测方面,研究人员可以先测试模型的初始表现,再评测训练过程中保存的不同检查点,比较训练效果。

确定需要部署的版本后,用户可以在控制台中将相应检查点一键部署为推理接口,供应用调用,也可用于生成合成数据和开展后续评测。按需托管与专用部署均支持一键部署。


▲Model Factory模型部署演示(图源:Prime Intellect)

二、收集执行记录辅助模型改进,支持客户自有GPU部署

模型上线后,团队可以通过运行记录管理工具Prime Traces收集执行记录,查看智能体调用了哪些工具、经过哪些步骤,以及在哪一步失败。研究人员据此筛选下一轮训练样本,调整任务环境和评分规则。


▲Model Factory执行记录收集演示(图源:Prime Intellect)

在该公司的编程智能体案例中,研究人员可以检查模型是否找到正确文件、是否运行测试,以及是否真正修复问题,再据此补充监督微调示范、调整强化学习奖励,或加入更难的任务。

新一轮训练后,研究人员可以结合代码修改和测试结果检查模型表现,并使用未参与训练的另一组任务开展评测,确认模型在训练任务之外是否同样有所改善,再决定是否部署新版本。

对于需要修改底层训练框架的团队,Model Factory还提供专用部署,客户可使用该公司或自有GPU搭建专用集群。研究人员既可以使用托管训练和推理服务,也可以通过调度器Slurm和Kubernetes直接管理集群,并按实验需求修改底层框架、运行自定义任务。

为支持长时间运行的实验,平台还提供健康检查、故障节点自动替换和训练恢复功能。据该公司披露,系统可在节点故障后从最近保存的检查点恢复运行,团队也可通过prime factory命令行工具,在不同任务之间调配GPU。

三、累计融资超10亿,为6000多家客户提供算力与模型服务

据该公司官网展示,Prime Intellect目前有三条产品线:模型训练平台Model Factory,前身为Lab;推理服务Prime Inference,为客户提供现成模型的API,也为客户自己的模型配置专属运行服务;算力服务Prime Compute,为客户提供按需租用的GPU、专属集群及配套运维。


▲Prime Intellect的分布式AI训练构想(图源:Prime Intellect)

Prime Compute是一个GPU算力平台,用户可以根据模型训练、推理等任务的需求,选择GPU型号、数量和租用时长,支持按小时租用1至256张GPU,也可以预订由Prime Intellect负责运维的专属集群。该平台提供集群调度、运行监控和故障节点自动替换等功能,用户可通过API启动和管理算力资源。

Prime Inference则是模型推理服务平台,用户可以通过兼容OpenAI接口的API调用开放模型,也可以将自己训练的模型部署上线,接入应用。目前,平台支持按Token付费和预留专属算力,当某个数据中心的部署出现故障时,系统支持自动将请求转至其他正常运行的部署。

该公司透露,在正式对外发布前,Prime Inference仅处理公司内部的强化学习、合成数据生成、评测等任务,每天处理的Token量就已接近1万亿。

Prime Intellect的两位联合创始人此前分别有Web3及模型训练背景。该公司联合创始人兼CEO文森特·魏瑟(Vincent Weisser)曾参与创办去中心化科研组织VitaDAO,并在生物医药知识产权平台Molecule负责产品和AI业务。

其联合创始人兼CTO约翰内斯·哈格曼(Johannes Hagemann)硕士毕业于德国哈索·普拉特纳研究所IT系统工程专业,并于2022年初加入德国大模型公司Aleph Alpha,参与从零构建分布式训练框架。

2023年,哈格曼以第一作者身份完成《大规模分布式模型训练的高效并行化布局(Efficient Parallelization Layouts for Large-Scale Distributed Model Training)》论文,并获得NeurIPS 2023下属WANT研讨会最佳论文奖。


▲Prime Intellect联合创始人兼CTO约翰内斯·哈格曼(左)与联合创始人兼CEO文森特·魏瑟(右)(图源:Prime Intellect)

客户合作方面,Prime Intellect曾与英伟达合作开展企业任务训练。双方共同构建了2500项经过验证的跨应用企业任务,覆盖邮件、客户管理、工单和表格等场景。英伟达以完成监督微调的Nemotron 3.5 Super VL为起点,使用NeMo RL开展强化学习,共投入128张GB200 GPU。训练后,在考察企业跨应用自动化能力的AutomationBench-AA公开测试集中,该模型的得分从训练前的34.0%提高至57.7%。

在融资方面,2024年4月,该公司宣布完成550万美元(约合人民币3692万元)种子轮融资,由Distributed Global和CoinFund共同领投。2025年2月,该公司宣布完成1500万美元融资(约合人民币1.01亿元),由创始人基金领投。今年7月,该公司完成1.3亿美元(约合人民币8.73亿元)A轮融资,由Radical Ventures领投,英伟达风投、英特尔资本、戴尔科技资本等参投。

结语:模型平台争夺长期客户,训练实效影响客户去留

Model Factory将算力、训练、评测和部署整合起来,扩大了Prime Intellect能够承接的客户需求。美国AI云服务商Fireworks等同行也在提供训练与部署服务,模型定制平台的服务范围正逐渐重叠。Prime Intellect需要凭借训练环境、沙箱、运行记录和集群控制等差异化能力,争取需要持续开发模型的客户。

服务范围接近之后,平台能否帮助企业更快完成实验、更稳定地上线模型,将更直接地影响客户选择。供应商也需要将项目经验整理成可复用的工具和方案,减少每次交付中的人工投入。客户是否持续使用该平台、是否完成有效模型训练,将检验一站式平台的长期价值。

来源:Prime Intellect


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
黑色挂脖蕾丝衫,利落短裙,修长美腿气质出众

黑色挂脖蕾丝衫,利落短裙,修长美腿气质出众

疾跑的小蜗牛
2026-11-17 20:45:02
突然大幅跳空低开,5000只下跌,发生了什么?

突然大幅跳空低开,5000只下跌,发生了什么?

萌生财经
2026-11-20 11:55:22
小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

小心!欧洲被打服了,中东也不闹了,美国的目标只剩下东亚

西府赵王爷
2025-03-22 15:47:18
液氧乐队主唱张宇去世,年仅48岁,圈内人士:他之前患有肝硬化

液氧乐队主唱张宇去世,年仅48岁,圈内人士:他之前患有肝硬化

极目新闻
2026-11-19 18:03:25
“风流尼姑”释智定:贪财好色与两个和尚结婚,私生活混乱住豪宅

“风流尼姑”释智定:贪财好色与两个和尚结婚,私生活混乱住豪宅

夜话奇谭
2026-11-19 14:39:47
案件:北京一女教授在家养病长达10年,民警进门后,当场愣在原地

案件:北京一女教授在家养病长达10年,民警进门后,当场愣在原地

五元讲堂
2024-12-24 16:57:49
关羽确定被活捉时为啥不自刎?网友们剖析太精辟,当时所有人都懵圈

关羽确定被活捉时为啥不自刎?网友们剖析太精辟,当时所有人都懵圈

另子维爱读史
2026-11-19 20:39:07
美媒评NBA历史十大国际巨星,东契奇第10,约基奇仅第4,司机屈居第2

美媒评NBA历史十大国际巨星,东契奇第10,约基奇仅第4,司机屈居第2

弄月公子
2026-11-19 23:36:58
“温格越位新规”试行效果不佳,大概率不会推广

“温格越位新规”试行效果不佳,大概率不会推广

体坛周报
2026-11-19 18:12:42
特朗普:亚洲行程太满了,没顾上见金正恩,“有太多会议了,实在安排不过来,我们将在某个时间点举行那场会谈”

特朗普:亚洲行程太满了,没顾上见金正恩,“有太多会议了,实在安排不过来,我们将在某个时间点举行那场会谈”

扬子晚报
2026-11-20 12:29:27
星舰又要变大了,飞船将长达70米,燃料增加60%,整体高约150米

星舰又要变大了,飞船将长达70米,燃料增加60%,整体高约150米

科普大世界
2026-11-20 10:21:22
和平宣言第一条,中俄美要保住联合国,也要重划权力边界,为什么

和平宣言第一条,中俄美要保住联合国,也要重划权力边界,为什么

起喜电影
2026-11-20 11:55:23
林俊贤直播自爆,对傅艺伟动过心本想追求,幸好最后没行动!

林俊贤直播自爆,对傅艺伟动过心本想追求,幸好最后没行动!

旧时光老师
2026-11-17 22:26:47
画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

画面不堪入目,地下人奶交易乱象,成年人躺进怀里吃奶的灰色黑产

易玄
2026-09-12 10:24:46
3年套现15亿?和17家公司完成切割,如今隐居上海,自称全职妈妈

3年套现15亿?和17家公司完成切割,如今隐居上海,自称全职妈妈

墨策讲历史
2026-11-18 23:11:36
NBA乱套了!随着火箭119-104,掘金105-101,湖人97-109不敌爵士,西部排名出炉!

NBA乱套了!随着火箭119-104,掘金105-101,湖人97-109不敌爵士,西部排名出炉!

锐评利物浦
2026-11-19 18:54:53
美国霸权的唯一例外!印度直言:全世界只有中国,让美国不敢放肆

美国霸权的唯一例外!印度直言:全世界只有中国,让美国不敢放肆

笑谈历史阿晡
2026-11-06 20:38:23
高三男孩喀纳斯湖失踪,母亲守岸7天后直言放弃,意外竟在此时发生

高三男孩喀纳斯湖失踪,母亲守岸7天后直言放弃,意外竟在此时发生

古怪奇谈录
2025-10-16 10:53:42
张柏芝现身江苏盐城参加拼盘演唱会,三十秒入场视频先火了,披风一脱、背头一梳,评论区当场吵翻

张柏芝现身江苏盐城参加拼盘演唱会,三十秒入场视频先火了,披风一脱、背头一梳,评论区当场吵翻

勺哥乡村味道
2026-11-17 20:38:41
一次性补缴10万元,每月领1433元,成都养老补缴爆了

一次性补缴10万元,每月领1433元,成都养老补缴爆了

数字财经智库
2026-11-20 09:36:50
2026-11-20 13:11:00
智东西 incentive-icons
智东西
智东西,AI产业新媒体,专注报道人工智能的前沿技术发展,和技术应用带来的千行百业产业变革。
12984文章数 117196关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

普京:正式声明后三国首脑展开自由讨论 恐怕没人料到

头条要闻

普京:正式声明后三国首脑展开自由讨论 恐怕没人料到

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

亲子
教育
游戏
数码
旅游

亲子要闻

正在慢慢发生的一场巨变:孩子不够了,幼儿园和小学关闭潮来袭?

教育要闻

小学生说了真话却被扣4分,标准答案容不下“大实话”吗?

《GTA6》暗藏大表哥彩蛋!亚瑟故事写进书里

数码要闻

1299元飞傲UTWS17蓝牙耳挂开售:搭载双AK4333,配OLED显示屏与无触点无线充电仓

旅游要闻

拒绝走马观花!来大辛庄遗址博物馆,带您“玩着玩着就懂了”

无障碍浏览 进入关怀版