网易首页 > 网易号 > 正文 申请入驻

DeepSeek为啥时灵时不灵,字节一句话点破:它看信息站哪儿

0
分享至

同一个问题答案忽对忽错根子是相位敏感性普通用户怎么绕开这个坑

最近,知乎热榜上挂着一个让技术圈直呼内行的问题:如何评价字节Seed团队发现DeepSeek性能漂移。点进去是一篇让普通用户直呼内行的技术论文。很多人用DeepSeek都有这种体验,同一个问题,有时答得漂亮,有时答非所问。字节跳动Seed团队说,根子可能不在服务器,而在模型自己记东西的方式。这个问题不只困扰普通用户,也困扰拿它写代码、做助手的开发者,因为出错没有规律,最难防。



Seed团队在预印本平台arXiv提交了论文Periodic Weak Spots,讲一个叫相位敏感性的现象。他们做了个简单实验:让DeepSeek-V4补全一段FP8量化函数代码,正确答案应该是8。代码本身不动,只在前面加一段没用的等号装饰,答案就开始横跳。

填充长度模4余数为0或1时,模型倾向答错成32;余数为2或3时,又答回正确的8。整个过程以4个Token为周期反复。换句话说,模型记不记得住一件事,居然要看这件事在输入里站哪个位置。这在普通人眼里就是:我问题没变,你咋还抽风了。更麻烦的是,这种故障跟问题难度无关,再简单的任务也可能中招。

论文说,问题出在DeepSeek-V4用的分块KV缓存压缩。这项技术为了省内存,把连续Token窗口压成更少的缓存条目,代价是引入了一个新的位置坐标,叫Token的相位。模型对不同相位的信息检索能力有系统性差异,部分注意力头甚至专门盯着某些相位。说白了,压缩省了显存,却让记忆变成了带周期的筛子,某些位置的信息容易漏。

大规模大海捞针测试证实了普遍性。128K长上下文里,DeepSeek-V4-Flash-Base不同位置的检索准确率最大差40.2个百分点,V4-Pro-Base差34.8个。后训练的V4.1-Flash把差距收到6.1个,但周期性还在。一个漂亮的平均分,可能正好掩盖了它在某个位置系统性失灵。其他采用类似分块压缩的长上下文模型,也可能存在同类隐患,只是没被量化出来。



实用经验其实有了。不少用户发现,把提示里最关键的内容放在最前面,模型抓到的概率明显更高;凌晨时段比高峰顺畅,一部分也是相位碰巧落在好区间。字节的建议更硬核:评估这类模型不能只看平均分,得把同一条信息放到不同相位分别测。对做产品的团队,这意味着要在测试集里加位置扰动,否则上线后才爆雷。

对普通人来说,记住两件事就够了:重要信息往前放,一次答不好换个说法再问。你被DeepSeek或者别的模型抽风坑过吗?评论区说说你是怎么把它掰回来的。

【参考来源】

界面新闻《DeepSeek抽风原因找到了,字节Seed团队论文揭示相位敏感性》(2026-10-09);量子位《字节找到了DeepSeek时强时弱的原因》(2026-10-09);腾讯网相关报道(2026-10-10);arXiv论文 Periodic Weak Spots。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
药不是车:华为式“赋能”进入医药,边界在哪?

药不是车:华为式“赋能”进入医药,边界在哪?

迷世书童
2026-10-31 10:06:32
越南工会把话挑明:周六上班,就是加班

越南工会把话挑明:周六上班,就是加班

文青大叔说
2026-10-30 08:56:39
多方回应徽剑遇害!东南亚狗急跳墙,拿2000万悬赏,追杀中国博主

多方回应徽剑遇害!东南亚狗急跳墙,拿2000万悬赏,追杀中国博主

冰语历史
2026-10-30 12:28:25
3:2!孙颖莎险胜申裕斌艰难晋级八强,赛后接受采访句句大实话!

3:2!孙颖莎险胜申裕斌艰难晋级八强,赛后接受采访句句大实话!

田先生篮球
2026-10-30 22:36:35
曾是国足队长,已去世5年,48岁生日第二天离世,范志毅悲痛悼念

曾是国足队长,已去世5年,48岁生日第二天离世,范志毅悲痛悼念

大龄女一晓彤
2026-10-31 11:28:47
中俄通婚越来越多,中国男人婚后傻眼!不少人为了面子娶个洋媳妇,结果日子越过越难受

中俄通婚越来越多,中国男人婚后傻眼!不少人为了面子娶个洋媳妇,结果日子越过越难受

扶苏聊历史
2026-10-30 15:16:48
1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

帝哥说史
2026-10-11 16:14:43
这就是顶级天后的权威,亚洲首位

这就是顶级天后的权威,亚洲首位

Yuki女人故事
2026-10-29 15:18:26
反转不断!蔡天凤案曝出惊人细节:现任和前夫一家,关系远比想象复杂

反转不断!蔡天凤案曝出惊人细节:现任和前夫一家,关系远比想象复杂

砚田文化
2026-10-31 10:12:49
新加坡已经预测到中美冲突:一旦爆发,美国称中国不能攻打美本土

新加坡已经预测到中美冲突:一旦爆发,美国称中国不能攻打美本土

心灵得以滋养
2026-10-27 09:21:41
吴克群为突发脑出血进ICU的高三老师捐款10万元:好老师不该就这样倒下,家属:已收到捐款,今天刷抖音才知道是吴老师捐

吴克群为突发脑出血进ICU的高三老师捐款10万元:好老师不该就这样倒下,家属:已收到捐款,今天刷抖音才知道是吴老师捐

台州交通广播
2026-10-31 03:47:00
560万还贵吗?时隔240天单场7记三分 克莱归位创四纪录利好字母

560万还贵吗?时隔240天单场7记三分 克莱归位创四纪录利好字母

颜小白的篮球梦
2026-10-31 11:09:26
女子1月份花5万元买金手镯,10月底还没戴已巨亏1万3,“已经不想发言,就当是深刻教训”;深圳水贝买金持续火爆,商家:打烊时间越来越晚

女子1月份花5万元买金手镯,10月底还没戴已巨亏1万3,“已经不想发言,就当是深刻教训”;深圳水贝买金持续火爆,商家:打烊时间越来越晚

南方都市报
2026-10-30 23:36:58
没有毛主席,姆巴佩可能还在喀麦隆种可可

没有毛主席,姆巴佩可能还在喀麦隆种可可

芸婉笔谈
2026-10-29 12:44:37
火箭输独行侠!杜兰特一人死顶,斯玛特好用,4将上双却喜忧参半

火箭输独行侠!杜兰特一人死顶,斯玛特好用,4将上双却喜忧参半

篮球资讯达人
2026-10-31 10:48:01
明年即将是中华人民共和国全党、全军、全国各族人民重要的一年

明年即将是中华人民共和国全党、全军、全国各族人民重要的一年

兴趣知识
2026-10-31 12:11:29
荷兰公司一个月内生产的Ruta巡航导弹比2022年之前欧洲一年的产量还要多,乌克兰不是唯一原因

荷兰公司一个月内生产的Ruta巡航导弹比2022年之前欧洲一年的产量还要多,乌克兰不是唯一原因

深度Militaire
2026-10-30 07:27:03
快评:若封杀全中国实验室,美方必遭反制

快评:若封杀全中国实验室,美方必遭反制

环球时报国际
2026-10-30 17:04:31
难以置信啊!员工离职3个月后被追偿17.1万,广东一设计院秋后算账,相关通知书曝光

难以置信啊!员工离职3个月后被追偿17.1万,广东一设计院秋后算账,相关通知书曝光

火山詩话
2026-10-31 13:18:18
帕丽斯·希尔顿因万圣节装扮被骂

帕丽斯·希尔顿因万圣节装扮被骂

这里是美国
2026-10-30 17:33:10
2026-10-31 13:48:49
奇葩锅
奇葩锅
做个闲人,自由,惬意
438文章数 3关注度
往期回顾 全部

科技要闻

苦等两年!国行苹果AI下周开测,12月推出

头条要闻

男子幻听后行凶致邻居2死1伤 被判死刑后上诉:自首了

头条要闻

男子幻听后行凶致邻居2死1伤 被判死刑后上诉:自首了

体育要闻

决胜时刻三连击!勒布朗绝命补篮价值千金

娱乐要闻

赵丽颖解锁新身份 出任金鸡创投主评审

财经要闻

Meta、谷歌、英特尔增发认购者集体浮亏

汽车要闻

钛7上市一年销量突破30万 海外半年销量2.7万

态度原创

亲子
教育
艺术
游戏
时尚

亲子要闻

孩子为何毛病多?北京聂院长说缘由

教育要闻

题目应该是缺少已知条件吧,请求各位大神帮忙解答一下

艺术要闻

安妮·布朗:美国当代印象派油画家

国产《归唐》点燃海外期待!老外狂赞:中国游戏必玩

“这件外套”今年秋天爆火,这样穿松弛又时髦!

无障碍浏览 进入关怀版