网易首页 > 网易号 > 正文 申请入驻

DeepSeek为啥时灵时不灵,字节一句话点破:它看信息站哪儿

0
分享至

同一个问题答案忽对忽错根子是相位敏感性普通用户怎么绕开这个坑

最近,知乎热榜上挂着一个让技术圈直呼内行的问题:如何评价字节Seed团队发现DeepSeek性能漂移。点进去是一篇让普通用户直呼内行的技术论文。很多人用DeepSeek都有这种体验,同一个问题,有时答得漂亮,有时答非所问。字节跳动Seed团队说,根子可能不在服务器,而在模型自己记东西的方式。这个问题不只困扰普通用户,也困扰拿它写代码、做助手的开发者,因为出错没有规律,最难防。



Seed团队在预印本平台arXiv提交了论文Periodic Weak Spots,讲一个叫相位敏感性的现象。他们做了个简单实验:让DeepSeek-V4补全一段FP8量化函数代码,正确答案应该是8。代码本身不动,只在前面加一段没用的等号装饰,答案就开始横跳。

填充长度模4余数为0或1时,模型倾向答错成32;余数为2或3时,又答回正确的8。整个过程以4个Token为周期反复。换句话说,模型记不记得住一件事,居然要看这件事在输入里站哪个位置。这在普通人眼里就是:我问题没变,你咋还抽风了。更麻烦的是,这种故障跟问题难度无关,再简单的任务也可能中招。

论文说,问题出在DeepSeek-V4用的分块KV缓存压缩。这项技术为了省内存,把连续Token窗口压成更少的缓存条目,代价是引入了一个新的位置坐标,叫Token的相位。模型对不同相位的信息检索能力有系统性差异,部分注意力头甚至专门盯着某些相位。说白了,压缩省了显存,却让记忆变成了带周期的筛子,某些位置的信息容易漏。

大规模大海捞针测试证实了普遍性。128K长上下文里,DeepSeek-V4-Flash-Base不同位置的检索准确率最大差40.2个百分点,V4-Pro-Base差34.8个。后训练的V4.1-Flash把差距收到6.1个,但周期性还在。一个漂亮的平均分,可能正好掩盖了它在某个位置系统性失灵。其他采用类似分块压缩的长上下文模型,也可能存在同类隐患,只是没被量化出来。



实用经验其实有了。不少用户发现,把提示里最关键的内容放在最前面,模型抓到的概率明显更高;凌晨时段比高峰顺畅,一部分也是相位碰巧落在好区间。字节的建议更硬核:评估这类模型不能只看平均分,得把同一条信息放到不同相位分别测。对做产品的团队,这意味着要在测试集里加位置扰动,否则上线后才爆雷。

对普通人来说,记住两件事就够了:重要信息往前放,一次答不好换个说法再问。你被DeepSeek或者别的模型抽风坑过吗?评论区说说你是怎么把它掰回来的。

【参考来源】

界面新闻《DeepSeek抽风原因找到了,字节Seed团队论文揭示相位敏感性》(2026-10-09);量子位《字节找到了DeepSeek时强时弱的原因》(2026-10-09);腾讯网相关报道(2026-10-10);arXiv论文 Periodic Weak Spots。

声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
谢卫江任湖南省代省长

谢卫江任湖南省代省长

人民网
2026-10-31 06:34:44
69岁张铁林聚餐照曝光,叼着烟斗涮铜锅,一桌老北京规矩,栽在一口烟上,网友吵翻:私人饭局该不该管

69岁张铁林聚餐照曝光,叼着烟斗涮铜锅,一桌老北京规矩,栽在一口烟上,网友吵翻:私人饭局该不该管

迪迪的娱乐故事
2026-10-19 17:09:33
因为“真有人用”,所以取消了所有福利?这波操作太真实了

因为“真有人用”,所以取消了所有福利?这波操作太真实了

夜深爱杂谈
2026-10-03 20:30:57
当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

鹤羽说个事
2026-09-02 16:51:59
一个让人深睡的千年古方,可治入睡困难、失眠多梦,让人睡到自然醒

一个让人深睡的千年古方,可治入睡困难、失眠多梦,让人睡到自然醒

神希园
2026-10-30 12:05:10
性与命和寿的关系:好命长寿的男人,往往身上有这6种特征

性与命和寿的关系:好命长寿的男人,往往身上有这6种特征

普陀动物世界
2026-10-10 04:42:05
移民法官也保不住!华人男子被撤销绿卡,遣返回中国

移民法官也保不住!华人男子被撤销绿卡,遣返回中国

大洛杉矶LA
2026-10-31 06:27:16
中国第二大民企“倒了”!欠下7500亿巨债,创始人被抓股权清零

中国第二大民企“倒了”!欠下7500亿巨债,创始人被抓股权清零

兵卒史
2026-10-24 02:24:25
中国经济不是不差钱,相反,是很差钱

中国经济不是不差钱,相反,是很差钱

小筑财经
2026-10-30 09:24:07
中方已做最坏准备,中美一旦爆发战争,东风-61、巨浪-3、福建舰电磁弹射这三张王牌,一张比一张狠,个个都是制衡底牌

中方已做最坏准备,中美一旦爆发战争,东风-61、巨浪-3、福建舰电磁弹射这三张王牌,一张比一张狠,个个都是制衡底牌

林杰论事
2026-09-21 17:50:04
3-0横扫!女单爆大冷!就在刚刚,WTT冠军赛:世界亚军被淘汰!王艺迪强势晋级女单8强,赛后一句话圈粉无数,这才是国乒主力该有的样子!

3-0横扫!女单爆大冷!就在刚刚,WTT冠军赛:世界亚军被淘汰!王艺迪强势晋级女单8强,赛后一句话圈粉无数,这才是国乒主力该有的样子!

篮球热嗖
2026-10-30 10:12:29
女演员千万别整容,看《小城良方》姜妍和菅韧姿同框,就懂了

女演员千万别整容,看《小城良方》姜妍和菅韧姿同框,就懂了

陈述影视
2026-10-28 23:26:26
3+2+1+1!封盖+三分!恭喜杨瀚森,合同全额保障,诺帅赛后认错了

3+2+1+1!封盖+三分!恭喜杨瀚森,合同全额保障,诺帅赛后认错了

球盲姐
2026-10-30 14:30:35
现货黄金失守3900美元关口

现货黄金失守3900美元关口

界面新闻
2026-10-30 22:27:01
审美无高下!感受阿拉伯女性独特的异域风情

审美无高下!感受阿拉伯女性独特的异域风情

娱你同欢
2026-10-28 23:16:03
班级群上演离婚夫妻对峙大戏!只因一本作业本,爸爸当众怒斥抚养权划清边界,引热议

班级群上演离婚夫妻对峙大戏!只因一本作业本,爸爸当众怒斥抚养权划清边界,引热议

火山詩话
2026-10-28 14:28:02
华尔街:,求求中国别再让铝厂出海了!这帮敢死队把铝价卷崩了!

华尔街:,求求中国别再让铝厂出海了!这帮敢死队把铝价卷崩了!

快乐彼岸
2026-10-30 20:52:54
孟子义回应尚公主压力,太瘦撑不起唐装不甩锅被赞内娱活人

孟子义回应尚公主压力,太瘦撑不起唐装不甩锅被赞内娱活人

城市乡村
2026-10-30 16:35:25
亲俄德州牛仔被俄罗斯人残酷虐杀:绝对忠诚的终极回报

亲俄德州牛仔被俄罗斯人残酷虐杀:绝对忠诚的终极回报

今观天下
2026-10-30 10:06:58
为什么现在择婿标准里,男公务员成了“恐怖级”存在?

为什么现在择婿标准里,男公务员成了“恐怖级”存在?

白浅娱乐聊
2026-10-30 11:44:34
2026-10-31 10:11:00
奇葩锅
奇葩锅
做个闲人,自由,惬意
438文章数 3关注度
往期回顾 全部

科技要闻

苦等两年!国行苹果AI下周开测,12月推出

头条要闻

媒体:菲律宾有人疯到遥拜靖国神社 目的是要遏制中国

头条要闻

媒体:菲律宾有人疯到遥拜靖国神社 目的是要遏制中国

体育要闻

第三年合同获保障 杨瀚森在垃圾时间抢饭碗

娱乐要闻

李冰冰任泉亲密照流出,情谊胜过夫妻

财经要闻

Meta、谷歌、英特尔增发认购者集体浮亏

汽车要闻

问界新M8公布Max、Max+、Ultra三款配置,即日起开放选择

态度原创

家居
艺术
数码
教育
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

美到窒息!英国古典主义画家亚瑟·哈克的传世名画,第一眼就让人沦陷

数码要闻

双十一旗舰游戏U对决!锐龙7 9800X3D性价比完胜酷睿Ultra 9 285K

教育要闻

2026多子女同校申请:5月这两个窗口别错过

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版