网易首页 > 网易号 > 正文 申请入驻

DeepSeek“推倒重来”

0
分享至



DeepSeek V4.1 Flash发布后,不仅速度变快,而且内容更准确,还有原生多模态。

全网对DeepSeek V4.1 Flash好评如潮,梁文锋再次被奉为“梁圣”。

相较于V4 Flash,V4.1 Flash最大的特点是推倒重来,采用了和V4 Flash完全不同的非对称结构。

这也就是说,V4在结构上积累的训练配方、优化技巧、工程适配,到了V4.1这里,大部分都作废了。

现在的DeepSeek早就不是一家小作坊了,而是一个拥有数百名员工的企业,想要重起一个新的结构不仅费时,还很费力。即便如此,梁文锋也要狠下心,对V4推倒重来。

新结构听起来确实很像一个营销用的噱头,不过答案其实就在DeepSeek V4.1 Flash的官方论文当中,DeepSeek的旧架构,已经装不下新的训练目标了。

那么这个新的目标又是什么呢?我认为,很可能是“入口”。

01

DeepSeek为什么要推倒重来?

通常来讲,先有模型,后有Harness。厂商根据模型的能力和特点来构建Harness。然而DeepSeek V4.1 Flash却是被DSH给“反哺”出来的。

官方论文表示,V4.1 Flash的后训练遵循标准的SFT→ RL→ 在线蒸馏(OPD)范式,没有任何算法改动。关键的地方在于,所有实质性变化都在数据流水线当中,大规模自动合成Agent任务与环境,数据、任务、rollout渐进式扩增。

RL训练时让模型在6种不同的Agent框架里反复试错,数据量、任务种类、试错轮次一路放大。DSH是这6个训练场里最重要的一个,V4.1 Flash还专门针对DSH的不同操作模式做了定向训练。

DSH从DeepSeek V4 Pro的伴生产品,摇身一变成了V4.1 Flash的老大哥。

为了满足DSH的偏好,DeepSeek V4.1采用了全新的结构。

论文里是这么介绍的,新结构让模型在prefill阶段每token只需要激活8B的参数、decode阶段激活16B,进而大幅改善“输入密集的agent工作负载”的成本效率。

为什么“输入密集”会成为麻烦?

过去的模型结构是为"聊天"设计的,用户问一句,模型答一句。这就造成了输入短、输出长,模型只会记住当前这一轮对话的上下文。

但在Agent时代,几十轮的中间状态一直挂在上下文里,输入动辄几十万token,远大于输出。

2026年4月,密歇根大学、斯坦福大学等院校联合发布论文《AI是怎么花你钱的?》(How Do AI Agents Spend Your Money?),其中就提到这样一件事,在agentic代码任务中,输入与输出的token比高达154:1。

于是DeepSeek选择推倒重来。V4.1 Flash采用了非对称结构Causal-Encoder-Decoder(CED)。

V4.1 Flash的语言主干共40层,如果按照以前的Transformer(decoder-only)那样,这40层应该是一模一样的。每一层都同时负责“读”和“写”,同时处理给它的输入,也处理输出,而且每一层都要自己攒一份KV Cache。

CED的“非对称”,指的是把这40层拆成前20层编码器、后20层解码器,编码器只负责“读”,把输入压成摘要,解码器只负责“写”,照着摘要生成回答。

就像汽车的流水线一样。过去是一个车间完成所有活,想增加产能就得一直复制这一个车间。现在是流水线,冲压车间就负责冲压,电泳车间就负责电泳。



并且记忆只产生一次,解码器的全局KV Cache直接从编码器的最终结果投影出来。DeepSeek V4.1 Flash的全局KV Cache压到了890字节/token,降低至V4 Flash的1/4。

这是因为DeepSeek V4.1 Flash采用了CSA2(Compressed Sparse Attention 2),第二代压缩稀疏注意力。

V4的时候DeepSeek使用的是第一代CSA,到了第二代,可以让不同层之间共享KV和索引,也就解决了前面所提到的痛点。

依然是像汽车流水线一样,CSA2中把这40层分成了三个不同的车间,分别为Full、Reindex和Reuse。

Full负责完整记录,就像传统Transformer的每一层一样。Reindex负责提炼重点,再根据提炼的结果做事。Reuse则直接照着Full的技术抄,连提炼都省了。

虽然说除了第一层用Full,剩下39层全用Reuse是最节省成本的做法,但每层关注的重点不同,能力也不同,浅层做的是“字面理解”,深层做的是“逻辑推理”,它们需要的上下文内容不同。如果全用Reuse只会生成没有价值的回答。

去年还是先有车、再修路,今年已经是先修路,再造车。

模型性能强弱、性价比高低,都不是叙事的核心,唯有掌握了入口,才能吸引更多用户。

但梁文锋不是第一个这么做的,姚顺雨的Hy4 preview走在他之前。

Hy4 preview官方技术报告里表示,通过腾讯内部的软件工程师、游戏开发者、金融分析师、安全专家,围绕他们真正交付的工作共建数据,再和CodeBuddy、WorkBuddy这些产品共同设计。

在163名内部专家参与的203个真实工程任务盲测中,Hy4 preview平均2.99分,GLM-5.3是2.92,Kimi K3是2.94。

入口的重要性不言而喻,腾讯产品矩阵的优势得以发挥。

DSH和WorkBuddy本质上是一种产品闭环,是整条训练流水线的一部分。

有意思的是,2026年7月24日,腾讯撤销大语言模型部和多模态模型部,合并成立基础模型部,姚顺雨统一负责。他将混元多模态的发展重点,放在了Agent强相关的多模态理解上,和梁文锋此前对多模态的看法一致。

现如今,梁文锋又在模型上靠拢了姚顺雨,互相学习。

02

智谱与Kimi有类似的闭环吗?

智谱和月之暗面这两家不是没有工具,Kimi有Kimi Claw,智谱也有ZCode、AutoClaw和GLM Coding Plan。

但这些工具没办法像DSH和WorkBuddy那样“反哺”模型。智谱和Kimi的工具是后挂的外壳,模型先在合成环境里练好,再做个产品给用户用。

智谱现在把所有精力都放在了模型自进化上。8月31日,在智谱半年度业绩会上,唐杰首次明确表示,GLM-6.0是一款Full Self-Training(完全自训练)模型,与OpenAI的RSI(Recursive Self-Improvement,递归自我改进)相似。

唐杰表示,从预训练、中训练到后训练,全流程让模型自己训自己,不再靠人写代码、清洗数据、调参、设计实验。人只负责给模型定目标,以及做最后的验收工作。

在GLM-5.3上,智谱就已经展示过他们自进化方法的一部分了。GLM-5.3和5.2使用的基座相同,但是性能却大幅提升。

具体情况是这样的,GLM-5.3建了一套端到端的任务环境合成流水线,Agent从真实世界的软件工程和终端操作场景收集种子任务,接下来模型自己头脑风暴,生成大量可验证的任务草稿,再构建做题用的Agent,把这些草稿实例化成具体的可运行环境。

将Agent输出的回答进行精炼,根据研究员定义的评分标准,检查并迭代优化任务质量。

最终就产出了数千个多样化、可验证的终端Agent环境。GLM-5.3的长程任务环境数量是GLM-5.2的几十倍,而且都是Agent自己建的。



月之暗面走的是“在自建合成环境里把Agent能力练到极致”的路线,相当于是闭关修炼。

具体做法是通过AgentENV来完成模型的训练,这是基于Firecracker微虚拟机的分布式沙箱系统,

在K3训练期间跑了5100万个沙箱,支持暂停、恢复、复制、快照,专门解决长程Agent强化学习里“任务跑不完、环境容易污染”的基础设施难题。

Agent的强化学习训练和普通大模型RL不一样。普通RLHF就是给模型一个prompt,模型生成一段回答,打个分,更新参数。环境是无状态的,跑完就完了。

但Agent训练不一样。模型要在一个真实的运行环境里干活,一个任务可能跑几十步甚至几百步,持续几分钟到几小时。

如果在干活过程中,模型发现缺少某个依赖,那么它会为了完成任务,自己在沙箱里装个依赖、改个配置文件。

虽然任务完成了,不过这个环境也就改变了,即环境被污染了。那么下一轮训练不能接着用,得重新起一个干净环境。重起的过程大约需要几秒,虽然不长,可大规模训练时就会浪费大量时间。

就像学开车一样,如果你一上来就从科目三开始,那必定会成为马路杀手。所以就需要驾校,准备一个不会有行人和来往车辆的空地,练习起步、上坡和侧方停车。

AgentENV就是Kimi的驾校,让Kimi可以在训练时大展拳脚,还不会受到环境因素的影响。

所以智谱和月之暗面不是没有闭环,只是这个闭环没有触达外界,练得再好也是闭关修炼。

DSH和WorkBuddy的是入口,用户在真实环境里干活,数据自然回流,模型在实战里被养大。

03

梁文锋要抢入口

就在DeepSeek V4.1 Flash发布的同时,DSH也宣布更新到了v0.1.5版本。新版为插件作者提供了更多标准化的UI扩展入口,新增了文件上传、侧边栏文件预览等功能,优化了UI的性能与交互,并持续增加与模型研究前沿深度结合的实验性功能。

DSH在刚发布的时候,与其说它是一个产品,倒不如说它是一个属于极客的玩具。就连安装都能难倒一大片。

DSH的理念是一切皆插件,需要用什么插件,DSH自己安装,用完了再删除。结果就是真正好用的插件,全是社区提供的,包括连UI都是。

到了0.1.5版本,DSH已经从“框架”逐渐蜕变成了“产品入口”。除了适配V4.1 Flash以外,全是终端用户产品功能。

举个例子,0.1.5版本中,Agent可以显式交付文件。生成的代码、文档、分析报告直接作为文件出现在侧边栏,用户可以预览、打开、定位到本地文件夹。

以前的DSH里,Agent只能输出文字和代码到回答框里,用户必须得亲自复制粘贴到文件里才行。

不仅如此,新版本还有一个极其实用的功能,叫做“支持在保留已有KV Cache的情况下更新系统提示词”。

传统Agent有个痛点,长会话跑到一半,你想改系统提示词,比如让Agent从“写代码模式”切换到“写文档模式”,那就必须清掉整个KV Cache重新prefill。

在1M上下文的前提下,切换系统提示词,就意味着Agent要花几十万甚至上百万token去重新规划任务。

所以现有Agent产品基本不允许中途改系统提示词,Agent的角色和目标从会话开始就锁死了。

这就说明,DeepSeek在有意识地把DSH从“极客工具”往前推,让它成为一个面向更多用户的Agent产品。核心目的就在于扩大入口,放更多人进来。



现在的DeepSeek,反而有点像卖剃须刀的吉列。它的刀架不赚钱,甚至免费,它主要挣的是刀片的钱。可真正锁定客户的反而是刀架。

DeepSeek也一样,想换新模型,复制粘贴一段API Key就完事了。但是想换新Harness,那得需要适应很长一段时间。

所以DSH大量优化用户体验,不仅仅是为了继续“反哺”未来的DeepSeek V4.1 Pro,乃至5、6、7、8,更是为了抢占入口。

DeepSeek已经在朝着“入口公司”看齐了。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
读书不出声,永远中等生!读书声音大,定能成学霸;坚持大声朗读,是学生最低成本的逆袭!

读书不出声,永远中等生!读书声音大,定能成学霸;坚持大声朗读,是学生最低成本的逆袭!

好爸育儿
2026-10-17 08:35:29
王曼昱等三人拟记大功!

王曼昱等三人拟记大功!

五星体育
2026-10-19 14:56:06
局势失控,中国邻国内政变天!中央强硬出手,地方派高层遭大围剿

局势失控,中国邻国内政变天!中央强硬出手,地方派高层遭大围剿

张癈卤说体育
2026-10-20 09:00:31
楼市开始离谱了!广州的房价,可能会迎来新一轮洗牌,很现实!

楼市开始离谱了!广州的房价,可能会迎来新一轮洗牌,很现实!

阿离家居
2026-10-19 17:58:43
我今年80岁,说句旁人不爱听的大实话:寿命太长,未必是什么好事

我今年80岁,说句旁人不爱听的大实话:寿命太长,未必是什么好事

阿芒娱乐说
2026-10-19 17:41:10
儿子去世留下70平和120平两套拆迁房,七旬老太自愿放弃全部继承权,只求能“终身独居小套房屋”,儿媳不同意老人独占,法院判了

儿子去世留下70平和120平两套拆迁房,七旬老太自愿放弃全部继承权,只求能“终身独居小套房屋”,儿媳不同意老人独占,法院判了

都市快报橙柿互动
2026-10-20 11:18:16
关店400家亏超百亿!曾碾压沃尔玛的中国第一超市,为啥自救失败

关店400家亏超百亿!曾碾压沃尔玛的中国第一超市,为啥自救失败

别人都叫我阿腈
2026-10-12 04:21:45
世道变了,养老规则颠倒,江浙沪多地,已经掀起大范围反向养老

世道变了,养老规则颠倒,江浙沪多地,已经掀起大范围反向养老

童童聊娱乐啊
2026-10-18 15:27:25
全民“不入套”:一场底层发起的无声变局,正在颠覆旧有社会规则

全民“不入套”:一场底层发起的无声变局,正在颠覆旧有社会规则

华庭讲美食
2026-10-15 01:39:37
突发!联邦特工大规模突袭加州,28人涉选民欺诈被起诉,加州官员紧急改口

突发!联邦特工大规模突袭加州,28人涉选民欺诈被起诉,加州官员紧急改口

大洛杉矶LA
2026-10-20 06:01:30
李嘉诚的命真硬!市委书记肖秧熬不过他

李嘉诚的命真硬!市委书记肖秧熬不过他

小刀66
2026-10-20 08:16:18
房价很大可能重走1998年老路!所有人一定要提前做好心理准备

房价很大可能重走1998年老路!所有人一定要提前做好心理准备

偷喝一口奶
2026-09-11 08:36:30
一夫一妻制逐渐难维持!社会学家分析:未来3种模式将成为主流?

一夫一妻制逐渐难维持!社会学家分析:未来3种模式将成为主流?

月下守候
2026-10-19 22:46:50
女子新婚6天和情夫开房,2008年丈夫第2次捉奸她,被她和情夫杀死

女子新婚6天和情夫开房,2008年丈夫第2次捉奸她,被她和情夫杀死

汉史趣闻
2026-10-20 10:08:55
后续!在俄披旭日旗的陈宇昕开始求饶了,留俄同胞联名请愿严惩

后续!在俄披旭日旗的陈宇昕开始求饶了,留俄同胞联名请愿严惩

朗威谈星座
2026-10-20 10:46:14
“希望4个老人长命百岁”,女子晒3万多退休金,普通人的心却凉了

“希望4个老人长命百岁”,女子晒3万多退休金,普通人的心却凉了

番外行
2026-09-22 16:10:14
二十届五中全会10月26日开幕,这次重点不在经济,而在这一件事

二十届五中全会10月26日开幕,这次重点不在经济,而在这一件事

次元君情感
2026-10-20 08:31:15
18分12助12板!正负值高达+27,都说你底薪抱团,可你又混成大腿

18分12助12板!正负值高达+27,都说你底薪抱团,可你又混成大腿

月亮的麦片
2026-10-19 11:15:45
“父亲开大奔,才能养出这种女儿”,浙大女孩返校一幕火了,长相普通,但气质一流

“父亲开大奔,才能养出这种女儿”,浙大女孩返校一幕火了,长相普通,但气质一流

世界圈
2026-10-14 15:28:36
父亲将智障儿子扔青海戈壁,19年后妈妈去旅游碰见:妈妈,是你吗

父亲将智障儿子扔青海戈壁,19年后妈妈去旅游碰见:妈妈,是你吗

晓悦流年
2025-09-10 15:08:49
2026-10-20 12:03:00
字母榜 incentive-icons
字母榜
让未来不止于大。
2856文章数 8096关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

媒体:菲律宾对中国的有些举动已经属于蹬鼻子上脸

头条要闻

媒体:菲律宾对中国的有些举动已经属于蹬鼻子上脸

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

港媒曝刘恺威与32岁黎纪君恋情,秘密恋爱两个月

财经要闻

这些科技股王,为什么总输给茅台?

汽车要闻

方盒子家族再添新成员 捷途自由者7实车体验

态度原创

亲子
本地
健康
旅游
公开课

亲子要闻

天然奶源如何进入配方科学,周鹏教授解析婴幼儿胃肠消化健康

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

看着很健康的人,怎么会突然猝死?

旅游要闻

重走唐蕃古道:从丹噶尔古城看古道商贸新篇

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版