网易首页 > 网易号 > 正文 申请入驻

DeepSeek开源推理框架,我们离“赛博朋克2077”又远了一点

0
分享至

DeepSeek突然交出了焚决。

10月20日,DeepSeek宣布把内部推理框架DeepInfer全面开源。

据DeepSeek介绍,DeepInfer推理框架集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台。

此外,配套的生产级Token编解码组件deepseek-recipe也在昨日一并放出,与DeepSeek官方API处理逻辑完整对齐。


除了代码,DeepSeek还在知乎发出技术长文,在GitHub挂出部署问答,把这套系统从架构设计到部署细节讲了一遍。

至于开源的原因,DeepSeek给出了理由很直白:坚持大模型普惠,“为善与众行之,为巧与众能之”。

DeepSeek称,希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。

事实上,坚持开源、实现普惠这个口号,DeepSeek已经践行了三年。

2023年11月,DeepSeek发布第一个模型DeepSeek-Coder,完全开源、免费商用。那时候DeepSeek还只是幻方量化旗下一个不太起眼的新团队。

换句话说,这家公司从第一天起,就没打算把模型锁在自家服务器里。

2024年12月,DeepSeek-V3同步开源,技术报告最震惊行业的就是性价比:总训练成本约557.6万美元,性能却比肩当时的闭源头部模型。

2025年1月,DeepSeek-R1开源模型权重,推理成本仅为OpenAI o1的几十分之一。

2025年2月是DeepSeek的“开源周”,五天连开五个代码库:高效解码内核FlashMLA、MoE通信库DeepEP、矩阵计算库DeepGEMM、并行策略DualPipe与EPLB,以及3FS文件系统。

此后,DeepSeek又陆续开源了用于开发高性能算子的TileLang 编译工具链和多个推理算子库;今年9月底,还把这套工具对照着做了一份华为昇腾版本,与英伟达平台的组件一一对应。

那么,昨天开源的推理框架DeepInfer为什么会再一次引起行业震动?

因为推理框架对大模型至关重要。DeepSeek解释,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,还取决于一个长期未被公众了解的中间层:推理框架。

训练使模型学有所成,推理则让模型为人所用。面对如今海量的用户调用,推理框架负责统筹调度庞大的算力集群,其效率直接决定了 AI 服务的算力成本与电力消耗。

基于DeepInfer,DeepSeek已实现DeepSeek V4.1 Flash高吞吐(单一集群一天的吞吐量达到155万亿Token)、低延迟的大规模推理服务。

“全民的DeepSeek”

,“效能优先、成本门槛优先、现实应用优先”是梁文锋团队一直坚持的选择。

,开源模型对闭源模型的冲击:闭源模型的护城河是技术的稀缺性,用户愿意为此买单。“只有最贵的模型才能干最难的活”,这是Anthropic最根本的商业逻辑和优势。

但当开源模型可以更低的价格提供相似的性能时,闭源模型的高毛利叙事就讲不下去了。这可能是硅谷和华尔街精英们目前最焦虑的事情之一。据路透社报道显示,投资者对 AI 公司高估值和成本膨胀的担忧正在加剧。

在DeepInfer开源当天,DeepSeek资深研究员Deli Chen在X平台转发官方开源公告称:“开源对闭源。光明对黑暗。一场关乎人类两种未来、两种命运的决战。无论他们想打多久,我们都会奉陪到底。直到彻底胜利。”


更早之前(今年9月)DeepSeek工程师刘胜与发表的文章《我不得不把才华埋葬在昨天》,在多个社交媒体刷屏。

他在文章里判断,伴随着AI的发展,未来的社会可能会趋向于两个极端:共产主义与赛博朋克2077(《赛博朋克2077》游戏,世界观设定是科技高度发达,但社会严重堕落)。

在前者中,生产力得到极大的解放,人们的生活水平有了明显的提高;而在后者中,少数科技公司控制着大部分资源,只有极少数人能够使用最先进的AI和各式科技,获得接近“机械飞升”的效果,大部分人则只能用上很孱弱的AI。阶层跨越将越来越难实现:你得先有最强的AI,才能跨越阶层,形成了一种死循环。

刘胜与认为,最前沿的智能应该以一种开放、廉价的方式,供应给所有人。这也是为什么他选择并坚持留在了DeepSeek,因为DeepSeek研究强大、快速、普惠的人工智能并将其开源,“或许能把世界从2077那端拉回来一些”。


在文章中,他还表达了自己的忧虑:如果 Anthropic 公司永远掌握着这个世界上最先进的 AI,未来社会是会变成共产主义还是2077呢?

他甚至直白的表示,自己不信任Anthropic或者OpenAI能这样做,特别是不希望Anthropic掌握最先进的人工智能或AGI,“夸张点说其严重性不亚于让希特勒先于盟军掌握原子弹技术”。

值得一提的是,文章刷屏后,刘胜与随后发布补充说明澄清:写作初衷并非表达对饭碗的焦虑,也不是想强调DeepSeek的开放普惠与别家的不讨喜。

但他并没有收回文章里的另一层立场,即他仍然相信,最前沿的智能不该被极少数商业机构垄断,而应以开放、普惠的方式提供给全社会。

事实上,我们回看今年4月DeepSeek V4官宣文案和技术文档会发现,区别于其他大模型不计成本堆料式追求顶尖生成效果,DeepSeek V4在设计上的特点就是践行普惠:

降低部署和使用的成本存算分离的MOE架构,兼顾全局和重点的CSA、HCA混合注意力机制,全面转向国产算力卡,以及预制的Agent、世界知识、世界顶级推理性能。

当然,对于DeepSeek这次开源,业内也有不同的声音。

有观点认为,DeepSeek这次开源是有边界的。因为开源版本只提供离线推理,KV 缓存存储、Prefill/Decode 分离调度、跨节点负载均衡这些在线服务的关键组件,因与内部基础设施耦合过深,并未完整开放。

但开源仍会持续,未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。

并且,开源这条路上,DeepSeek并非孤军奋战。

今年7月,Kimi K3发布。在Arena前端代码竞技场,它以1679分的成绩登顶全球第一,超越了Claude Fable 5(1631分)和GPT-5.6 Sol(1618分)。这是开源模型历史上第一次在权威编程榜单上压过所有闭源对手。

这场AI竞速中,目前Anthropic忙着拯救估值、全力冲刺上市;OpenAI忙着私募、储备更多弹药;但也有公司在备战的同时,没有忘记“Open AI”的初衷。

希望我们能走向AI的世界,也走向“真正普惠的未来”。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
反转,泰山队两大核心主力选择留队,老将妥协,降薪选择续约

反转,泰山队两大核心主力选择留队,老将妥协,降薪选择续约

体坛风之子
2026-11-09 07:00:40
穆帅回归,帮助皇马找回秘诀:如今皇马把艰难客场踢得轻松写意

穆帅回归,帮助皇马找回秘诀:如今皇马把艰难客场踢得轻松写意

福酱的小时光
2026-11-09 08:15:34
杨幂12岁女儿已去英国留学,住寄宿学校,杨幂负责大部分开支!

杨幂12岁女儿已去英国留学,住寄宿学校,杨幂负责大部分开支!

玖宇维
2026-11-08 16:33:50
1992年泰森服刑期间和女狱警发展私情,不久女方意外怀孕,泰森托狱外朋友带她去堕胎,高墙深处藏着怎样的权色迷局?

1992年泰森服刑期间和女狱警发展私情,不久女方意外怀孕,泰森托狱外朋友带她去堕胎,高墙深处藏着怎样的权色迷局?

磊子讲史
2026-10-29 18:02:22
1991年江青最终为何选择自杀?除了绝望之外,还有哪些因素把她推上了这条路?

1991年江青最终为何选择自杀?除了绝望之外,还有哪些因素把她推上了这条路?

人生录
2026-11-09 00:05:33
山东人当年“闯关东”,为何宁愿去严寒的东北,也不去富饶的南方

山东人当年“闯关东”,为何宁愿去严寒的东北,也不去富饶的南方

文史道
2025-03-03 13:00:30
绝平也没用!曼联跌入降级区!红魔名宿怒喷卡里克

绝平也没用!曼联跌入降级区!红魔名宿怒喷卡里克

奶盖熊本熊
2026-11-09 09:03:32
蓉城球迷意难平!不止因为2-3惜败泰山丢冠,更多在于以下这5点!

蓉城球迷意难平!不止因为2-3惜败泰山丢冠,更多在于以下这5点!

田先生篮球
2026-11-08 19:00:51
男孩迷上做花圈、棺材等特殊手工,还自己配合“出殡”等表演;妈妈称孩子从4岁自学,谈不上支持但尊重,网友:千万别打,一哭更像

男孩迷上做花圈、棺材等特殊手工,还自己配合“出殡”等表演;妈妈称孩子从4岁自学,谈不上支持但尊重,网友:千万别打,一哭更像

都市快报橙柿互动
2026-11-08 14:09:44
中国国企出现罕见全球倒挂

中国国企出现罕见全球倒挂

边际财经实验室
2026-11-08 10:27:16
俄军FAB-3000巨型航弹,炸碎体育场地下掩体,乌克兰55人死亡,50多人下落不明!

俄军FAB-3000巨型航弹,炸碎体育场地下掩体,乌克兰55人死亡,50多人下落不明!

吃瓜小侦探
2026-11-08 19:09:58
英超积分榜:阿森纳5分领跑,利物浦升至第4,曼联第18

英超积分榜:阿森纳5分领跑,利物浦升至第4,曼联第18

懂球帝
2026-11-09 06:09:13
吃相难看!延安大学副教授自尽愈演愈烈,荒谬事发生,还不止一件

吃相难看!延安大学副教授自尽愈演愈烈,荒谬事发生,还不止一件

社会日日鲜
2026-11-06 07:04:14
演员黄渤自曝今年几乎没戏拍

演员黄渤自曝今年几乎没戏拍

韩小娱
2026-11-06 11:20:31
太震撼了!浙师大招聘会现场人山人海,海量师范生扎堆求职,生源下滑编制收紧,师范就业内卷现状引热议

太震撼了!浙师大招聘会现场人山人海,海量师范生扎堆求职,生源下滑编制收紧,师范就业内卷现状引热议

火山詩话
2026-11-08 09:06:37
小沈阳深夜发文告别!

小沈阳深夜发文告别!

阿废冷眼观察所
2026-11-08 10:56:47
李国旭躲啤酒滑倒,两大队长太圆满了!唐田没吹牛,山东没掉链子

李国旭躲啤酒滑倒,两大队长太圆满了!唐田没吹牛,山东没掉链子

刀锋体育
2026-11-08 20:37:36
售价2499元,戴上就能“推不倒”,防摔智能指环多平台已下架;被质疑“江湖骗术层出不穷”

售价2499元,戴上就能“推不倒”,防摔智能指环多平台已下架;被质疑“江湖骗术层出不穷”

北青网-北京青年报
2026-11-08 14:18:02
"你敢把手术刀,交给这种人吗?"李子祺的第一学历被扒:393分的民办三本

"你敢把手术刀,交给这种人吗?"李子祺的第一学历被扒:393分的民办三本

磊子讲史
2026-11-04 17:55:44
发现一个很准的规律:只要儿子儿媳长期和父母同住一处,最后都会变得像"仇人"

发现一个很准的规律:只要儿子儿媳长期和父母同住一处,最后都会变得像"仇人"

小书虫妈妈
2026-11-08 12:13:59
2026-11-09 09:16:49
科技浮世绘 incentive-icons
科技浮世绘
文字是假的,热爱是真的
314文章数 8关注度
往期回顾 全部

科技要闻

AI机房被卡,美股重挫!英伟达大跌9%

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

体育要闻

40岁,正是绝杀的年纪!

娱乐要闻

敬一丹女儿追忆母亲:她被世界铭记

财经要闻

市场能接受AI繁荣退潮吗?

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

旅游
房产
亲子
教育
军事航空

旅游要闻

直播间低价旅游卡兑现难 文旅消费陷阱如何破?

房产要闻

突发!海口新政:小户型回来了!

亲子要闻

潮州月子中心护理人员持证率是多少?

教育要闻

72哈哈哈哈哈哈哈哈哈

军事要闻

特朗普称伊朗战事何时结束将由其决定

无障碍浏览 进入关怀版