网易首页 > 网易号 > 正文 申请入驻

Kimi K3.1 Pro 正式开源,本地部署 800 万元起步,阿里云超节点 Day0 适配

0
分享至

省流:本地部署 Kimi K3.1 Pro 最低 800 万元起步,推荐配置 3000 万元,请转给公司领导申请预算

大家好,我是 Ai 学习的老章

前两天我实测了 Kimi K3.1 Pro:

也测了它与 DeepSeek、Opus 5.5 和 GPT-6 的同台表现:

大家有各种看法,但我觉得:你可以说它慢,说它贵,但是不能说它菜

今天月之暗面如约开源了 K3.1 Pro 的完整权重,阿里云也宣布灵骏真武 M890 超节点完成 Day0 适配

今年 7 月 K3 开源时我算过一笔账

当时结论是按照英伟达 H200 来测算的,跑满得 8 台超节点,预算直奔 3000 万(现在H200可不是这个价了)

如今 K3.1 Pro 权重发布,本地部署到底要几台机器、多少预算?老章再来算一下

K3.1 Pro 与 K3 架构区别

K3.1 Pro 底层骨架基本继承 K3,提升全在后训练与跨领域强化学习

架构是 2.8T 总参数的稀疏 MoE,支持 100 万 Token 上下文窗口

权重原生 MXFP4,实测大小 1.56TB(96 个分片):


注意力延续 KDA 线性注意力与 DSA 稀疏注意力结合的混合架构,支持多 Token 预测(MTP),兼顾长上下文显存与吞吐

月之暗面把算力砸在大规模后训练(Post-training)与跨领域联合 RL 上,重构了从训练、推理到沙箱评测的全栈工程,效果很显著:

Terminal-Bench 4.0 上,K3.1 Pro 拿下 65.7%,超越 GPT-6 Astra 的 58.2%,紧咬 Claude Opus 5.5(66.4%)

Kimi Code Bench 3.0 从 55.95% 升至 61.2%,还同步推出提速 2 到 3 倍的 Highspeed 版本


Kimi K3.1 Pro 评测榜单表现 阿里云超节点 Day0 适配

今天阿里云灵骏真武 M890 超节点宣布 Day0 适配 K3.1 Pro,并在 vLLM 与 SGLang 两个框架上跑通了全链路验证


软硬件协同全链路优化架构

跑万亿 MoE,瓶颈在跨卡与跨机通信,阿里云、平头哥与月之暗面联合做了深度调优:

  • FlashMLA 算子调优,降低高并发访存开销

  • DeepGEMM 算子优化,加速 MoE 低精度矩阵计算

  • MegaMoE 与 MoonEP 优化拓扑,压低 All-to-All 延迟抖动

Kimi K3.1 Pro 软硬件协同部署架构图 本地部署需要几台 M890

大家最关心的问题:本地私有化部署,到底买几台 M890?花多少钱?

我搜了一下近期的招投标信息,发现了这一条:


电信陕西分公司寻源公告显示,32 台真武 M890 含税预算 11942.76 万元,扣除管理机后单台均价约 373 万元(实际成本不得而知,这个数字虚高了,里面应该还有 4 台通算服务器部分):

  • 单台搭载 8 张 OAM 加速卡,单卡 144GB HBM 显存,整机显存合计 1152GB(约 1.15TB)

  • 片间互联带宽 800GB/s,配合自研 ICN Switch 1.0 支持 64 卡全带宽互联

K3.1 Pro 权重是 1.56TB,单台 M890 显存只有 1.15TB,单台连权重都装不下

多机部署需要加上 400GE RDMA 交换机(单台约 70 万元,我随便问的集成商,应该也虚高),老章整理出三档账单:


Kimi K3.1 Pro 本地部署成本台账

方案一:两台 16 卡配置,约 820 万 — 850 万元(入场券)

两台 M890 共 16 张卡,总显存 2304GB(约 2.25TB)

装下 1.56TB 权重后剩余约 744GB 显存供 KV Cache 与运行时周转,长上下文和并发量需要精打细算

  • 2 台真武 M890 服务器:约 746 万元

  • 1 台 400GE 交换机及配件:约 70 万 — 100 万元

  • 最低门槛合计:约 820 万 — 850 万元

方案二:四台 32 卡配置,约 1600 万元(舒适档)

四台 M890 共 32 张卡,总显存 4608GB(约 4.5TB)

权重外结余近 3TB 显存,可支撑 100 万 Token 长上下文与企业级稳定并发

  • 4 台真武 M890 服务器:约 1492 万元

  • 400GE 交换机与网络:约 100 万 — 150 万元

  • 企业生产推荐合计:约 1600 万元

方案三:八台 64 卡超节点,约 3100 万 — 3200 万元(官方推荐姿势)

月之暗面技术博客明确说了:建议在 64 卡以上超节点配置上部署,正好对应平头哥 ICN Switch 1.0 的 64 卡全带宽互联域

8 台 M890 聚合 64 张卡,总显存来到 9216GB(约 9.2TB),跨节点算力完全释放

  • 8 台真武 M890 服务器:约 2984 万元

  • 400GE 集群交换矩阵与线缆:约 150 万 — 200 万元

  • 满血超节点合计:约 3100 万 — 3200 万元

以上价格都仅供参考哈,实际部署,肯定不止!

总结

国产大模型最近纷纷雄起啊,DeepSeek V4.1 Flash、Kimi K3.1、腾讯 Hy4

据说,DeepSeek V5 也在训了,全量用华为昇腾 950 训练!

Qwen4 也在路上了,大胆猜测,本月必然发,我还是最期待 Qwen4

阿里巴巴集团联合创始人蔡崇信说得好:AI 只有开源才能普及,只有普及才能创造可持续、普惠的智能时代

国产大模型 + 国产算力,正在把真正的万亿级大模型私有化部署,从过去“买不到卡、调不通算子”的被动局面,拉进真正可交付的工程现实

对于金融、政企、核心科研这些对数据安全极度敏感的行业,自主可控的软硬件全栈底座已经摆在台面上,不再是镜中花水中月

当然,对咱们绝大多数开发者和中小团队来说,期待一下 Qwen4-27B 就行了

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
陕西商南3死2伤嫌疑人身亡:被杀2个女性,1个他前妻,1个外甥女

陕西商南3死2伤嫌疑人身亡:被杀2个女性,1个他前妻,1个外甥女

江山挥笔
2026-11-06 18:00:17
真是没想到!0-3掀翻王楚钦仅2小时,19岁温瑞博被骂上热搜,大吼庆祝被指不尊重前辈!同一声吼,打日乒叫解气,打头哥咋就不体面了?

真是没想到!0-3掀翻王楚钦仅2小时,19岁温瑞博被骂上热搜,大吼庆祝被指不尊重前辈!同一声吼,打日乒叫解气,打头哥咋就不体面了?

篮球热嗖
2026-11-06 09:49:58
钱来得太快容易飘!河北网友自述曾日入5万,月入百万,一年挥霍一空,如今36岁复盘亲身经历,引全网吃瓜

钱来得太快容易飘!河北网友自述曾日入5万,月入百万,一年挥霍一空,如今36岁复盘亲身经历,引全网吃瓜

火山詩话
2026-11-06 08:25:58
越南终于站出来表态,要求中国遵守国际法,对中国的戒心从没放下

越南终于站出来表态,要求中国遵守国际法,对中国的戒心从没放下

面包夹知识
2026-11-06 16:16:52
全球央行三季度加速购金,买金速度创2024年底以来最快

全球央行三季度加速购金,买金速度创2024年底以来最快

中国基金报
2026-11-03 17:49:00
河南女中医墓碑上刻满药方,老人孙子:每天三四百人前来抄方,原稿有200多个药方,整理后会公布,网上一些媒体发布的奶奶照片是假的

河南女中医墓碑上刻满药方,老人孙子:每天三四百人前来抄方,原稿有200多个药方,整理后会公布,网上一些媒体发布的奶奶照片是假的

大风新闻
2026-11-06 21:56:05
太可怕!“身子出去了一半,脚也滑出去了”,27层酒店落地窗外开,住客光脚关窗险坠楼,如果是小孩不堪设想……酒店回应

太可怕!“身子出去了一半,脚也滑出去了”,27层酒店落地窗外开,住客光脚关窗险坠楼,如果是小孩不堪设想……酒店回应

扬子晚报
2026-11-06 17:53:55
1927年,毛泽东被捕后,在被押解去执行死刑的途中,他突然对一名团丁说:“老哥,我腿疼,可能伤筋了!”

1927年,毛泽东被捕后,在被押解去执行死刑的途中,他突然对一名团丁说:“老哥,我腿疼,可能伤筋了!”

扶苏聊历史
2026-11-06 18:18:35
商南命案疑点:先报假警,再杀3人,最后自缢

商南命案疑点:先报假警,再杀3人,最后自缢

开箱见山
2026-11-06 17:08:20
法国极右翼领导人、总统候选人勒庞:泽连斯基先生,法国养不起你们了!

法国极右翼领导人、总统候选人勒庞:泽连斯基先生,法国养不起你们了!

澎湃新闻
2026-11-06 21:38:20
刹车踏板支架断裂风波一个月后,鸿蒙智行尊界汽车官方微博重启V800车型宣传

刹车踏板支架断裂风波一个月后,鸿蒙智行尊界汽车官方微博重启V800车型宣传

IT之家
2026-11-06 15:39:32
打虎!余艳红被查

打虎!余艳红被查

农视网
2026-11-06 10:24:43
今天立冬是“凶日”,记得:1不洗,2不去,3要吃,身体健康入冬

今天立冬是“凶日”,记得:1不洗,2不去,3要吃,身体健康入冬

简食记工作号
2026-11-07 02:36:15
国家法定节假日13天!2027全年休息日117天,你能休满吗

国家法定节假日13天!2027全年休息日117天,你能休满吗

网易新闻出品
2026-11-06 17:32:24
普京下令临时接管日本烟草公司在俄资产

普京下令临时接管日本烟草公司在俄资产

每日经济新闻
2026-11-06 07:46:04
确保全会各项战略部署在上海落地落实,陈吉宁与基层一线代表交流学习贯彻全会精神心得体会

确保全会各项战略部署在上海落地落实,陈吉宁与基层一线代表交流学习贯彻全会精神心得体会

澎湃新闻
2026-11-05 20:42:27
不可思议!一男子持高铁票不落座,在厕所门口站4小时,被同排女子发网上,“质疑男子是不是害怕自己和同伴尖叫”,引来大量网友围观

不可思议!一男子持高铁票不落座,在厕所门口站4小时,被同排女子发网上,“质疑男子是不是害怕自己和同伴尖叫”,引来大量网友围观

火山詩话
2026-11-06 07:11:22
中国气象局启动重大气象灾害(暴雪)四级应急响应

中国气象局启动重大气象灾害(暴雪)四级应急响应

每日经济新闻
2026-11-06 19:43:31
全国人民代表大会常务委员会决定免职的名单:免去李乐成的工业和信息化部部长职务

全国人民代表大会常务委员会决定免职的名单:免去李乐成的工业和信息化部部长职务

极目新闻
2026-11-06 19:56:30
特朗普做出“出人意料的表态”

特朗普做出“出人意料的表态”

极目新闻
2026-11-06 12:54:49
2026-11-07 05:03:00
Ai学习的老章 incentive-icons
Ai学习的老章
Ai学习的老章
3573文章数 11216关注度
往期回顾 全部

科技要闻

AI机房被卡,美股重挫!英伟达大跌9%

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

体育要闻

40岁,正是绝杀的年纪!

娱乐要闻

42岁的唐嫣,又上热搜了

财经要闻

市场能接受AI繁荣退潮吗?

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

健康
教育
手机
房产
时尚

痘痘长到25岁还没完?查查内分泌

教育要闻

72哈哈哈哈哈哈哈哈哈

手机要闻

OPPO Reno17系列11 月 9 日见,部分规格曝光

房产要闻

突发!海口新政:小户型回来了!

把北京喝成一杯酒

无障碍浏览 进入关怀版