网易首页 > 网易号 > 正文 申请入驻

黄仁勋、Kimi K3,与一场即将到来的开源战争。

0
分享至

大数据文摘受权转载自数字生命卡兹克

作者:卡兹克

你要说最近AI行业里,最热的、被讨论最多的一件事。

那必然就是一个由老黄、Anthropic、kimi、开源,这几个看着风牛马不相及的4个词,共同串起的故事。

故事是这样的。

前几天,7月24日,黄仁勋发了自己在X上的第一篇帖子。


这个AI圈可能最火的男人,为了发这封公开信,不惜注册了个X。

这封信的名字叫《Open Weights and American AI Leadership》,开放权重与美国AI领导力。


大概意思就是,AI会改造每一个行业,驱动每一家公司,也会被每一个国家建设。

开放模型能强化安全、加快创新,也能带来技术主权。

这个世界既需要最前沿的闭源模型,也需要最前沿的开放模型。

咱们不能制裁开源模型啊。

老黄之所以这么操碎了心,其实是有前情提要的。

我们把时间拨回11天前,那天有一个标志性的事件发生。

7月17日凌晨,Kimi K3正式发布。


2.8万亿总参数,1040亿激活参数,原生视觉能力,100万Token上下文。

最关键的是,Kimi当时就承诺,模型权重会在7月27日(也就是昨晚)正式开源。

这,是全球首个开源的3T级模型。

一个中国团队,在算力远没有那么宽裕的情况下,做出了一个能力逼近全球最强闭源模型的东西,还要把权重交给全世界。

这一下子,美国那边的气氛就变得不对劲了。

7月22日,美国白宫科技政策办公室负责人Michael Kratsios公开指控月之暗面,声称Kimi K3的开发使用了对Claude Fable 5的大规模蒸馏。


不过有趣的是评论区。

大家可以看看群众的呼声。


然后呢,美国财政部长好死不死,火上浇油,又提到了贸易黑名单和制裁。


评论区这下彻底沦陷了。




这个事越闹越大,眼瞅着一场原本关于模型能力和开源路线的竞争,迅速被拖进了知识产权、国家安全、出口管制和中美科技竞争里。

也就在这个时间点,黄仁勋站出来了。

他接受采访,公开反对封禁中国开源模型。


两天以后,他发出了人生第一条X,用一封公开信告诉华盛顿,开放模型关乎美国的创新、竞争、安全和技术主权,你不能封禁,不能制裁,我们得鼓励开源。

讲道理,老黄为了卖卡,真的是操碎了心。

然后呢,在最下面,一个很长的Logo墙被贴了出来,整个科技行业开始排队在公开信上签名。

公开信刚发布的时候,签名的有25家公司和组织。

英伟达、微软、Meta、IBM、戴尔、Palantir、Mistral、Hugging Face等等等等。

到了周末,名单开始疯狂变长。

OpenAI来了,Google来了,SpaceX来了,AMD、Cisco、Cloudflare、GitHub、Linux Foundation、Mozilla、Vercel、Y Combinator、OpenClaw等等,也全都来了。

到我写这篇文章的时候,已经有77个签署者了。


也有无数的大佬疯狂打Call站台。


好久好久好久没见过这么集结,一起起义,同仇敌忾的了。

但是如果细心的朋友就会发现,上面那个logo墙,几乎集结了美国绝大多数的前沿科技公司,甚至英伟达和AMD都世纪同框了,但是你会发现,莫名其妙的怎么缺了一个熟悉的名字。

Anthropic。

我觉得这张世界名画可以改名叫《Anthropic在哪里?》。

甚至有网友直接恶搞做了一个视频,我笑蒙了,我必须要给大家看看。

而就在Anthropic装死,美国科技巨头们联手推特上书起义之时。

本次事件的导火索,在昨晚,也就是7月27日晚上23点13分,正式官宣了Kimi K3开源。


而且这个开源程度,远超乎我的意料。

我本来以为只是开源模型权重而已。


结果。

模型权重,开源。

详细的技术报告,也放出来了。

训练K3用到的关键Infra,也开源。

全都开。。。

我大概列举一下。

Kimi K3模型权重,一个2.8万亿参数的MoE模型,一共有896个专家,每个Token激活其中16个。

然后是K3完整的技术报告,一共47页。


这里面公开了KDA和Attention Residuals的架构细节,解释了他们如何用3比1的比例混合KDA与Gated MLA,如何让信息跨越几十层继续流动。


还有Stable LatentMoE。

896个专家只激活16个,稀疏程度高得离谱,Kimi又用SiTU GLU、Quantile Balancing这一整套方法,把这种极端稀疏的训练维持在稳定状态。


还有MoonViT V2、百万Token上下文的强化学习基础设施、大规模任务合成、后训练方法,接近20个内部评测集的完整结果也放了出来。


这个技术报告很详细和扎实,推荐一读。

除了技术报告之外,还有开源的关键infra技术。

MoonEP,一套专门为超大规模MoE打造的专家并行通信库。


MoE训练时,经常会出现某些专家忙得要死,某些专家闲得抠脚,最后所有GPU都得等最忙的那一张卡。

MoonEP会根据当前路由结果,动态复制一小部分热门专家,让每张卡收到完全一样数量的Token,同时维持静态内存形状,避免训练越跑越碎,最后直接OOM。

这已经属于超大模型训练里非常底层、非常值钱的东西了。

FlashKDA,Kimi Delta Attention的高性能算子。


它用CUTLASS实现,在英伟达H20上,相比flash linear attention基线,prefill速度提升了1.85倍到2.31倍,还可以直接接进现有的flash linear attention后端。

再往下,还有AgentENV。


这是Kimi和KVCache.ai一起做的分布式Agent沙箱系统,也是K3做大规模Agent强化学习时真正跑环境的那层底座。

它可以在一堆机器上同时启动海量Firecracker微虚拟机,环境恢复低于50毫秒,暂停低于100毫秒,还原生支持快照、恢复和fork。

一个Agent跑到某个关键节点以后,可以直接分叉成几十条互不干扰的轨迹,继续并行探索。

虽然我对底层技术不是很了解,只是纸上谈兵的一些浅薄知识,但是从这几个技术来说,我觉得已经能感受到真香了。

真的就是掏老底了。

MoonEP解决超大MoE模型的通信和负载。

FlashKDA解决新注意力架构的算子效率。

AgentENV解决Agent强化学习需要的海量真实环境。

开源社区要起飞了。

如今,我愿将Kimi和DeepSeek并称为开源二圣。

我也读了一下这次Kimi K3的许可证。


普通研究者、开发者和公司,可以免费使用、复制、修改、部署、微调、分发,也可以做衍生产品和商业化。

它只给超大规模商业使用留了两道门槛。

如果你做模型服务生意,公司及关联方连续12个月总收入超过2000万美元,需要另行和月之暗面签协议。

如果使用K3的商业产品月活超过1亿,或者单月收入超过2000万美元,产品界面需要显著展示Kimi K3。

对,需要显著展示Kimi K3就行。

菩萨啊。。。

已经有人说,如果Kimi K3能给他带来单月2000万美元的收入,别说显著展示Kimi K3的品牌标识了。

他可以把Kimi的logo纹在屁股上,甚至可以纹两个。

今天这晚,随着Kimi K3的开源,我感觉把整个事件,推向了最终的高潮,舆论基本一边倒。


也在Hugging Face中,创造了历史。


这一刻,美国的态度,和Kimi K3开源,有了一种神奇的化学反应。

未来,这件事有可能被史称为:

AI行业的萨拉热窝事件。

这个世界,需要开源。

老黄他们拥抱开源,当然除了理想之外,还有很多金钱的气息。

2002年,Joel Spolsky写过一个很经典的商业规律,叫Commoditize Your Complements,把你的互补品变成商品。

一个东西的互补品越便宜,人们对这个东西的需求就越大。

英伟达卖GPU。

开源模型越多,全球就有越多公司愿意自己部署、自己微调、自己训练,最后需要的GPU也越多。

AMD、戴尔、云计算公司、推理服务商,逻辑差不多。

GitHub、Vercel、Replit、LangChain、OpenClaw这些开发工具和应用平台,也天然希望底层模型越来越多、越来越便宜、越来越容易替换。

因为模型成本每降一块钱,应用层就多出一块钱的空间。

老黄坚定的相信开源,以及老黄是开源模型的最大受益者之一,这两件事不冲突的。

但是我坚定的相信、也拥抱开源。

原因也特别简单,因为,我是个普通人。

这辈子,我可能都训练不起K3这样的模型,我没有几万张卡,我什么都不懂,技术报告里的公式,我都只能在AI的加持下勉勉强强看懂一点点。

但是不妨碍我,今天,踩在无数前人开源的工作、框架还有模型上,来创作我自己的作品。

普通人能参与每一次技术革命,靠的其实就是前面那些前辈,愿意把终点留下来,给后来的人,当起点。

我们没有突然变成天才。

我们只是,不用从零再走一遭。

开源真正厉害的力量就在这里。

一个团队花掉巨大算力、无数大佬熬了很久才得到的东西,一旦公开,第二天就会成为全世界无数普通人的公共起点。

我觉得,这就是文明的复利。

最后,向所有为人类世界、开源世界、AI世界的大佬们。

致以我最崇高的敬意。


谢谢你们。


点「赞」的人都变好看了哦!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网红小四爷送1人到缅北得12万元

网红小四爷送1人到缅北得12万元

哈留学邦
2026-10-08 12:10:26
日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

健康科普365
2026-08-13 14:30:15
新小米 SU7,后排小屏幕彻底下线了!

新小米 SU7,后排小屏幕彻底下线了!

花果科技
2026-10-08 14:37:19
杨瀚森首秀惊艳!开拓者123-118力克勇士,一战打出3大不争事实!

杨瀚森首秀惊艳!开拓者123-118力克勇士,一战打出3大不争事实!

田先生篮球
2026-10-08 13:59:07
派出所领导班子如何排序?

派出所领导班子如何排序?

网观天下
2026-10-08 07:03:08
终于等到了!广东队迎来重大利好,太阳拒绝转正里斯?

终于等到了!广东队迎来重大利好,太阳拒绝转正里斯?

绯雨儿
2026-10-08 13:49:41
疑似日本足协计划挖角安东尼奥,本人澄清!愿为中国培养球员直到退休

疑似日本足协计划挖角安东尼奥,本人澄清!愿为中国培养球员直到退休

林子说事
2026-10-08 04:27:59
教育最大的远见:严控孩子手机,才是守住孩子最好的未来

教育最大的远见:严控孩子手机,才是守住孩子最好的未来

婷妈alan
2026-08-19 07:40:07
【观天下】叙利亚考虑出兵也门?

【观天下】叙利亚考虑出兵也门?

新华社
2026-10-08 14:29:02
穆里尼奥开炮了:同是41岁,莫德里奇没人劝退,C罗却被天天盼着退休,这双标也太明显了吧

穆里尼奥开炮了:同是41岁,莫德里奇没人劝退,C罗却被天天盼着退休,这双标也太明显了吧

衔春信
2026-10-07 00:36:30
天彻底塌了!亚运全线溃败零金收官,中国篮球已跌至谷底!

天彻底塌了!亚运全线溃败零金收官,中国篮球已跌至谷底!

田先生篮球
2026-09-25 17:24:52
山东朋友吐槽:成都的房子朝向四面八方,放到山东一套都卖不出去

山东朋友吐槽:成都的房子朝向四面八方,放到山东一套都卖不出去

夜深爱杂谈
2026-10-07 21:37:35
中网夺冠后转战上海大师赛,德约:期待延续势头再创佳绩

中网夺冠后转战上海大师赛,德约:期待延续势头再创佳绩

澎湃新闻
2026-10-08 17:54:06
土耳其的女子确实漂亮,兼具典雅容貌与异域风情

土耳其的女子确实漂亮,兼具典雅容貌与异域风情

娱你同欢
2026-10-07 11:06:22
杨瀚森成开拓者第5中锋!诺里内线淘到宝:13分钟13+6,打爆勇士

杨瀚森成开拓者第5中锋!诺里内线淘到宝:13分钟13+6,打爆勇士

球场没跑道
2026-10-08 13:37:00
入坞8个多月,“山东舰”仍在维护改造,看来要搭载歼-35没跑了!

入坞8个多月,“山东舰”仍在维护改造,看来要搭载歼-35没跑了!

华人星光
2026-10-08 10:19:43
北青:男足国奥队11月9日肇庆集结,安东尼奥为帅位主要候选

北青:男足国奥队11月9日肇庆集结,安东尼奥为帅位主要候选

懂球帝
2026-10-08 16:48:57
我在上海亲戚家住了一周,真是开了眼,他们一家一个月就挣了10万

我在上海亲戚家住了一周,真是开了眼,他们一家一个月就挣了10万

椰青美食分享
2026-10-08 12:49:05
“早寒露冻死牛,晚寒露暖烘烘”,今日寒露,今年寒露是早是晚?

“早寒露冻死牛,晚寒露暖烘烘”,今日寒露,今年寒露是早是晚?

智慧生活笔记
2026-10-08 07:02:18
江苏一别墅被举报暗藏地下代孕手术室,举报人称卧底近4个月,当地卫健部门:已介入跟进

江苏一别墅被举报暗藏地下代孕手术室,举报人称卧底近4个月,当地卫健部门:已介入跟进

台州交通广播
2026-10-08 11:58:19
2026-10-08 18:47:00
大数据文摘 incentive-icons
大数据文摘
专注大数据,每日有分享!
6897文章数 94559关注度
往期回顾 全部

科技要闻

江淮汽车回应"尊界V800刹车踏板支架断裂"

头条要闻

四川一"西游记"主题公园因抽象走红 员工都是农户兼职

头条要闻

四川一"西游记"主题公园因抽象走红 员工都是农户兼职

体育要闻

梅西社媒发文告别国家队 C罗点赞留言:致敬 拥抱

娱乐要闻

演员王晓慧刚担女主,就被曝已婚生子

财经要闻

央行:中国从不搞竞争性货币贬值

汽车要闻

特别版配色/碳纤尾翼 2027款深蓝L06将于10月9日上市

态度原创

游戏
时尚
房产
本地
军事航空

《魔兽世界》玩家怀念亲人,有人将住房作纪念

“这条裙子”太美了,从18岁穿到80岁都很显气质

房产要闻

保利大爆发,冲到榜一!海南楼市前三季度,热销榜出炉!

本地新闻

转型再出发 奋勇打头阵

军事要闻

美日将在距台仅110公里处演习

无障碍浏览 进入关怀版