网易首页 > 网易号 > 正文 申请入驻

DeepSeek开源推理框架,我们离“赛博朋克2077”又远了一点

0
分享至

DeepSeek突然交出了焚决。

10月20日,DeepSeek宣布把内部推理框架DeepInfer全面开源。

据DeepSeek介绍,DeepInfer推理框架集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台。

此外,配套的生产级Token编解码组件deepseek-recipe也在昨日一并放出,与DeepSeek官方API处理逻辑完整对齐。


除了代码,DeepSeek还在知乎发出技术长文,在GitHub挂出部署问答,把这套系统从架构设计到部署细节讲了一遍。

至于开源的原因,DeepSeek给出了理由很直白:坚持大模型普惠,“为善与众行之,为巧与众能之”。

DeepSeek称,希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。

事实上,坚持开源、实现普惠这个口号,DeepSeek已经践行了三年。

2023年11月,DeepSeek发布第一个模型DeepSeek-Coder,完全开源、免费商用。那时候DeepSeek还只是幻方量化旗下一个不太起眼的新团队。

换句话说,这家公司从第一天起,就没打算把模型锁在自家服务器里。

2024年12月,DeepSeek-V3同步开源,技术报告最震惊行业的就是性价比:总训练成本约557.6万美元,性能却比肩当时的闭源头部模型。

2025年1月,DeepSeek-R1开源模型权重,推理成本仅为OpenAI o1的几十分之一。

2025年2月是DeepSeek的“开源周”,五天连开五个代码库:高效解码内核FlashMLA、MoE通信库DeepEP、矩阵计算库DeepGEMM、并行策略DualPipe与EPLB,以及3FS文件系统。

此后,DeepSeek又陆续开源了用于开发高性能算子的TileLang 编译工具链和多个推理算子库;今年9月底,还把这套工具对照着做了一份华为昇腾版本,与英伟达平台的组件一一对应。

那么,昨天开源的推理框架DeepInfer为什么会再一次引起行业震动?

因为推理框架对大模型至关重要。DeepSeek解释,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,还取决于一个长期未被公众了解的中间层:推理框架。

训练使模型学有所成,推理则让模型为人所用。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,其效率直接决定了 AI 服务的算力成本与电力消耗。

基于DeepInfer,DeepSeek已实现DeepSeek V4.1 Flash高吞吐(单一集群一天的吞吐量达到155万亿Token)、低延迟的大规模推理服务。

“全民的DeepSeek”

,“效能优先、成本门槛优先、现实应用优先”是梁文锋团队一直坚持的选择。

,开源模型对闭源模型的冲击:闭源模型的护城河是技术的稀缺性,用户愿意为此买单。“只有最贵的模型才能干最难的活”,这是Anthropic最根本的商业逻辑和优势。

但当开源模型可以更低的价格提供相似的性能时,闭源模型的高毛利叙事就讲不下去了。这可能是硅谷和华尔街精英们目前最焦虑的事情之一。据路透社报道显示,投资者对 AI 公司高估值和成本膨胀的担忧正在加剧。

在DeepInfer开源当天,DeepSeek资深研究员Deli Chen在X平台转发官方开源公告称:“开源对闭源。光明对黑暗。一场关乎人类两种未来、两种命运的决战。无论他们想打多久,我们都会奉陪到底。直到彻底胜利。”


更早之前(今年9月)DeepSeek工程师刘胜与发表的文章《我不得不把才华埋葬在昨天》,在多个社交媒体刷屏。

他在文章里判断,伴随着AI的发展,未来的社会可能会趋向于两个极端:共产主义与赛博朋克2077(《赛博朋克2077》游戏,世界观设定是科技高度发达,但社会严重堕落)。

在前者中,生产力得到极大的解放,人们的生活水平有了明显的提高;而在后者中,少数科技公司控制着大部分资源,只有极少数人能够使用最先进的AI和各式科技,获得接近“机械飞升”的效果,大部分人则只能用上很孱弱的AI。阶层跨越将越来越难实现:你得先有最强的AI,才能跨越阶层,形成了一种死循环。

刘胜与认为,最前沿的智能应该以一种开放、廉价的方式,供应给所有人。这也是为什么他选择并坚持留在了DeepSeek,因为DeepSeek研究强大、快速、普惠的人工智能并将其开源,“或许能把世界从2077那端拉回来一些”。


在文章中,他还表达了自己的忧虑:如果 Anthropic 公司永远掌握着这个世界上最先进的 AI,未来社会是会变成共产主义还是2077呢?

他甚至直白的表示,自己不信任Anthropic或者OpenAI能这样做,特别是不希望Anthropic掌握最先进的人工智能或AGI,“夸张点说其严重性不亚于让希特勒先于盟军掌握原子弹技术”。

值得一提的是,文章刷屏后,刘胜与随后发布补充说明澄清:写作初衷并非表达对饭碗的焦虑,也不是想强调DeepSeek的开放普惠与别家的不讨喜。

但他并没有收回文章里的另一层立场,即他仍然相信,最前沿的智能不该被极少数商业机构垄断,而应以开放、普惠的方式提供给全社会。

事实上,我们回看今年4月DeepSeek V4官宣文案和技术文档会发现,区别于其他大模型不计成本堆料式追求顶尖生成效果,DeepSeek V4在设计上的特点就是践行普惠:

降低部署和使用的成本存算分离的MOE架构,兼顾全局和重点的CSA、HCA混合注意力机制,全面转向国产算力卡,以及预制的Agent、世界知识、世界顶级推理性能。

当然,对于DeepSeek这次开源,业内也有不同的声音。

有观点认为,DeepSeek这次开源是有边界的。因为开源版本只提供离线推理,KV 缓存存储、Prefill/Decode 分离调度、跨节点负载均衡这些在线服务的关键组件,因与内部基础设施耦合过深,并未完整开放。

但开源仍会持续,未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。

并且,开源这条路上,DeepSeek并非孤军奋战。

今年7月,Kimi K3发布。在Arena前端代码竞技场,它以1679分的成绩登顶全球第一,超越了Claude Fable 5(1631分)和GPT-5.6 Sol(1618分)。这是开源模型历史上第一次在权威编程榜单上压过所有闭源对手。

这场AI竞速中,目前Anthropic忙着拯救估值、全力冲刺上市;OpenAI忙着私募、储备更多弹药;但也有公司在备战的同时,没有忘记“Open AI”的初衷。

希望我们能走向AI的世界,也走向“真正普惠的未来”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
德国乒协总监:不确定中国男乒是否会衰落,日本队整体稳定性更佳

德国乒协总监:不确定中国男乒是否会衰落,日本队整体稳定性更佳

杨华评论
2026-11-08 23:33:29
6899元起!华为鸿蒙新机官宣:12月1日,正式开售

6899元起!华为鸿蒙新机官宣:12月1日,正式开售

搞机小帝
2026-11-07 22:11:06
演员阿颜扁桃体切除术后不幸离世,术前称自己“怕得要死”,生前曾从330斤减重至260斤

演员阿颜扁桃体切除术后不幸离世,术前称自己“怕得要死”,生前曾从330斤减重至260斤

极目新闻
2026-11-08 15:49:50
11月9日柴油汽油价格,国际油价大跌,国内油价调整将大幅油价下调‍

11月9日柴油汽油价格,国际油价大跌,国内油价调整将大幅油价下调‍

有料财经
2026-11-08 23:23:16
夺冠后遗症!尼克斯酝酿重磅交易:送走布里奇斯,保住唐斯续约

夺冠后遗症!尼克斯酝酿重磅交易:送走布里奇斯,保住唐斯续约

老郎体育汇
2026-11-08 12:40:51
双十一没落了?23年销售额1.13万亿,24年1.44万亿,25年让人惊讶

双十一没落了?23年销售额1.13万亿,24年1.44万亿,25年让人惊讶

浩渺青史
2026-11-07 04:56:01
回老家一趟我彻底破防:村里47个五十岁上下的壮年人,全不种地不打工,天天打牌晒太阳,一问存款还没我多

回老家一趟我彻底破防:村里47个五十岁上下的壮年人,全不种地不打工,天天打牌晒太阳,一问存款还没我多

犀利辣椒
2026-09-25 06:21:06
14天集训砍掉7人!周琦王哲林赵睿全回来了, 杨瀚森确认缺席!

14天集训砍掉7人!周琦王哲林赵睿全回来了, 杨瀚森确认缺席!

江启
2026-11-08 12:50:54
阿什利-扬:有时候看起来曼联的球员甚至都不认识自己的队友

阿什利-扬:有时候看起来曼联的球员甚至都不认识自己的队友

懂球帝
2026-11-09 04:34:39
维伦纽瓦接手007,克雷格时代丢掉的装备该捡回来了

维伦纽瓦接手007,克雷格时代丢掉的装备该捡回来了

浅遇时光
2026-11-08 06:13:09
谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

谢贤前女友CoCo大曝张柏芝三胎生父内幕,无底线爆料,账号被封!

寻墨阁
2026-03-06 13:57:52
万亿研发换来崩盘的销量?打败内燃机的不是电车,而是谷歌和苹果

万亿研发换来崩盘的销量?打败内燃机的不是电车,而是谷歌和苹果

少数派报告Report
2026-11-07 09:55:43
俄罗斯专家直言不讳:倘若中国下定决心对日本动手,那就只剩两种选择——要么干脆不出手,要么出手就一击致命!

俄罗斯专家直言不讳:倘若中国下定决心对日本动手,那就只剩两种选择——要么干脆不出手,要么出手就一击致命!

人生录
2026-10-15 06:06:09
安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

安倍怕是要气得从坟里爬出来。真的。他老婆安倍昭惠,在他走后,小日子过得那叫一个滋润。

回京历史梦
2026-11-05 00:00:04
日本网友吐槽中餐油大份量足,对身体不好,美国网友一语戳破:别扯什么健康了,看看咱们自己的餐桌

日本网友吐槽中餐油大份量足,对身体不好,美国网友一语戳破:别扯什么健康了,看看咱们自己的餐桌

磊子讲史
2026-10-16 14:51:13
学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

学历贬值,日本的剧本已经演完了,我们几乎在逐页重演

起点人文
2026-10-15 13:07:03
原来我们身边藏着这么多暴利行业?网友:20多分钟1000多就没了

原来我们身边藏着这么多暴利行业?网友:20多分钟1000多就没了

夜深爱杂谈
2026-10-29 21:47:09
拿到80场40+有多难?NBA仅5人,詹姆斯还差1次,哈登107次无缘前三

拿到80场40+有多难?NBA仅5人,詹姆斯还差1次,哈登107次无缘前三

篮球圈里的那些事
2026-11-09 08:55:35
燃油车时代就快结束?内行人预测:油价大概率是最后的关键!

燃油车时代就快结束?内行人预测:油价大概率是最后的关键!

抽象派大师
2026-10-23 01:57:50
著名经济学家郎咸平:把房地产作为支柱,是一个经济体的不幸!

著名经济学家郎咸平:把房地产作为支柱,是一个经济体的不幸!

老蒋谈策划
2026-11-06 06:38:24
2026-11-09 09:24:49
科技浮世绘 incentive-icons
科技浮世绘
文字是假的,热爱是真的
314文章数 8关注度
往期回顾 全部

科技要闻

马斯克:“中国太棒了,我爱中国”

头条要闻

菲外交部罕见批评本国官员涉华言论 或在敲打菲防长

头条要闻

菲外交部罕见批评本国官员涉华言论 或在敲打菲防长

体育要闻

见证奇迹!中超冠军属于大连

娱乐要闻

敬一丹女儿追忆母亲:她被世界铭记

财经要闻

一场由得州引发的股灾

汽车要闻

503.17km/h!中国超跑这次真把天花板捅穿了!

态度原创

手机
游戏
旅游
公开课
军事航空

手机要闻

华为畅享100:首销21.5万台,最贵的畅享反而卖得最好!

任天堂称《宝可梦:风与浪》是NS2第三年关键作品

旅游要闻

山寺相依,守护历经千年的“对望”(解码·文化遗产系统性保护)

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

被问四川舰跟福建舰未来能否形成一体战斗群 专家回应

无障碍浏览 进入关怀版