网易首页 > 网易号 > 正文 申请入驻

Claude Code偷偷上线消息线程:请求体积从800KB降到1.8KB,首词延迟砍35%,但你的Token账单一分没变

0
分享至

Claude Code v2.1.317在11月3日悄悄上线了一个功能。没有发布会,没有倒计时,只是某天打开终端,长对话的等待时间突然变短了。

官方数据很具体:长会话中单次请求体积的中位数从约800KB降到1.8KB,50万到100万Token请求的首词延迟(TTFT)中位数下降约35%。大多数Claude Code用户已经默认开启,不需要任何配置。

但它同时写了一句容易被跳过的限定:Claude每一轮仍然读取完整对话,Token消耗和标准费率不变。

变快是真的,变便宜是假的。 这两件事被同一个功能同时做到了极致,也同时暴露了Agent时代最容易被混淆的一笔账。



先搞清楚它到底省了什么

以前Messages API不记历史。Agent每发一轮请求,都得把之前所有消息、工具返回的文件内容、命令输出从头再传一遍。一个编码Agent跑几百轮,对话涨到几十万Token,光是把这些内容序列化、上传、再让服务端解析,就吃掉了首词延迟的很大一块。

Message Threads的做法很直接:第一轮照常发完整对话、system prompt和tools,服务端把这条线程存在加密内存里,返回一个response ID。之后每一轮只发新增消息和上一条response的ID,服务端自己把完整上下文拼回去。

请求体积从800KB降到1.8KB,降的是网络传输和预处理。Claude推理时仍然读完整对话,所以Token一个没少。

省的是“快递包装”,不是“货物本身”。



35%这个数字,有它精确的适用范围

官方口径写得很窄:50万到100万Token的请求,TTFT中位数下降约35%。

这句话有两层容易被忽略的意思。

第一,它降的是TTFT,不是总任务完成时间。TTFT是你按下回车到看到第一个字之间的等待。对于跑一个长任务来说,这个等待只是整条时间线的一小段。35%的TTFT改善,放到一个跑20分钟的任务里,体感可能是“等它开口的时间短了十几秒”,而不是“任务快了一倍”。

第二,如果你的会话在10万Token以下,改善几乎为零。byteiota的实测分析写得很直白:低Token量的会话,重发成本本身就低,Message Threads省下的传输时间可以忽略。

这个功能是为“长会话”设计的。 短对话用它,等于给自行车装涡轮增压。



和Prompt Cache的区别:一个省上传,一个省钱

这是最容易搞混的地方,也是官方示例里两者一起用的原因。

Prompt Cache解决的是“服务端重复处理” 。命中缓存的那部分输入,按更低的价格计费——Opus 5.5和Sonnet 5.5的缓存读取价格是基础输入价格的0.05倍,其他模型是0.1倍。它省的是钱,也是计算。

Message Threads解决的是“客户端重复上传” 。它不碰缓存,不会自动帮你命中任何东西, cache_control 断点仍然要自己设。它省的是传输时间。

一句话:Prompt Cache让每个Token更便宜,Message Threads让每次请求更小。 前者改账单,后者改等待。两者叠加才是完整的优化——一个管“你花多少钱”,一个管“你等多久”。



五个分钟、一个404、一个不能改的system prompt

这个功能的限制比它的收益更需要认真读。

线程闲置5分钟就过期,接口返回404。没有警告,没有解释。你必须自己写fallback逻辑,检测到404之后用本地保存的完整对话重新建一个线程。如果你的工作流里有一个慢工具调用、或者一个人工审批环节超过了5分钟,线程就断了。省下来的延迟,会被404重放吞回去一部分。

线程内不能改system prompt和tools。继续请求里再传system或tools,哪怕传null,都会报错。model、tool_choice、thinking这些字段也必须和第一轮一致,变了会触发 thread_fingerprint_mismatch 。想换配置,只能新建线程,从头开始。

没有list/read/delete API。你不能查线程里存了什么,也不能手动删。你的应用是对话的唯一可靠副本。服务端那份是“尽力而为”的临时状态,不能当存储用。

不支持ZDR和HIPAA。对有严格数据留存要求的企业,这个功能默认就该关掉。



什么场景值得开,什么场景开了白开

值得认真用: 长时间运行的编码Agent,每一轮都在追加文件内容、diff和命令输出;Computer Use类的Agent,截图默认挂在线程上而不是每轮重传;文档和图片密集的会话,请求体积本身很大。上下文越重,它省下的TTFT越可观。

开了白开: 短问答、轻量对话、10万Token以下的会话。传输成本本来就不高,35%的改善落到绝对时间上几乎无感。

必须关掉或不能用: 需要ZDR或HIPAA合规的场景;依赖Batch API的离线任务(目前不兼容);工作流里有超过5分钟的等待环节、又没做好404重放逻辑的。

Claude Code用户不需要做任何事。 它已经默认开了。你真正需要做的,是在你的Agent架构里留一份完整的对话副本——不是为了线程,是为了线程断了的时候,你还能重建它。



这个功能真正在说的事

Anthropic在9月刚把缓存价格砍了75%,11月又上了Message Threads。两个动作指向同一个方向:长Agent会话的成本和延迟,正在被拆成两个独立的问题,分别优化。

缓存管“重复内容别按全价收”,线程管“重复内容别反复传”。它们都不改变模型推理本身的成本,但都在把Agent从“能跑”往“能顺畅地跑”推。

你不需要为Message Threads多付一分钱,也不应该指望它帮你省一分钱。 它买的是时间——而且只在你的会话足够长、等待足够痛的时候,这个时间才值钱。

如果哪天你发现自己在终端前等Claude开口等到不耐烦,那大概率不是模型变慢了,是你的会话已经长到该让线程接手传输了。账单不会因此变小,但你的耐心会。

声明:内容由AI生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
果然面相是不会骗人的,王诗龄就是个例子

果然面相是不会骗人的,王诗龄就是个例子

阿废冷眼观察所
2026-11-21 15:06:48
韩国太狠了,让全国手机响铃 10.5 秒防高考作弊,高考期间共查出111起电子设备作弊

韩国太狠了,让全国手机响铃 10.5 秒防高考作弊,高考期间共查出111起电子设备作弊

趣笔谈
2026-11-21 11:08:09
2004年,马加爵因高烧卧床,同班林某特意带回两份盒饭,在宿舍陪他吃饭聊天;没想到,正是那顿饭意外救了林某一命

2004年,马加爵因高烧卧床,同班林某特意带回两份盒饭,在宿舍陪他吃饭聊天;没想到,正是那顿饭意外救了林某一命

人生录
2026-11-22 09:08:32
炸锅了!革命卫队和伊朗总统罕见统一战线,要从穆杰塔巴手里夺权

炸锅了!革命卫队和伊朗总统罕见统一战线,要从穆杰塔巴手里夺权

乐享人生风雨
2026-11-22 14:58:19
排坛最新消息!名将颜妮大婚,中式婚纱上镜又美又飒,恩师郎平传来喜讯

排坛最新消息!名将颜妮大婚,中式婚纱上镜又美又飒,恩师郎平传来喜讯

南海浪花
2026-11-22 15:03:19
我东北人,在深圳吃过猪脚饭后,终于明白:为啥猪脚饭走不出深圳

我东北人,在深圳吃过猪脚饭后,终于明白:为啥猪脚饭走不出深圳

神牛
2026-11-21 21:58:25
康生中伤周总理,吴法宪报告林彪,林:不要上当,他自己想当总理

康生中伤周总理,吴法宪报告林彪,林:不要上当,他自己想当总理

江东浪流史
2024-12-22 08:00:03
17年刑期临头,柯文哲庭上哽咽:当年不肯做副手,如今怕被关到死

17年刑期临头,柯文哲庭上哽咽:当年不肯做副手,如今怕被关到死

娱乐圈的笔娱君
2026-11-21 10:51:46
10胜6负,开拓者跌进附加赛,诺里只是比斯普利特运气好而已

10胜6负,开拓者跌进附加赛,诺里只是比斯普利特运气好而已

姜大叔侃球
2026-11-22 17:44:00
比大学生去送快递更恐怖的是:越来越多研究生们开始去收废品

比大学生去送快递更恐怖的是:越来越多研究生们开始去收废品

晨光苏醒a
2026-11-22 05:16:06
油价,早先一路猛涨,丝毫没有顾及普通百姓的感受,如今反转了!

油价,早先一路猛涨,丝毫没有顾及普通百姓的感受,如今反转了!

刘哥谈体育
2026-11-22 16:12:23
安徽一女子晒出婆婆带娃一年半的前后对比,此前精致得体,带娃后变得不修边幅,看着老了十几岁,婆婆感慨:再也不羡慕别人当奶奶带孙子了

安徽一女子晒出婆婆带娃一年半的前后对比,此前精致得体,带娃后变得不修边幅,看着老了十几岁,婆婆感慨:再也不羡慕别人当奶奶带孙子了

极目新闻
2026-11-21 22:17:27
苹果这家Apple Store,今日正式关闭

苹果这家Apple Store,今日正式关闭

全是技能
2026-11-22 16:20:39
辽宁铁矿石到底多富?探明150亿吨够用80年,中国工业根基稳了

辽宁铁矿石到底多富?探明150亿吨够用80年,中国工业根基稳了

兴趣知识
2026-11-22 02:59:53
普京终于摊牌:俄乌战争最大搅局者不是美国,而是这个跟俄罗斯斗了200年的老冤家

普京终于摊牌:俄乌战争最大搅局者不是美国,而是这个跟俄罗斯斗了200年的老冤家

z千年历史老号
2026-09-23 17:17:11
余承东真难啊!刚说完“开车别睡死就行”,立刻就微博纠错

余承东真难啊!刚说完“开车别睡死就行”,立刻就微博纠错

ZAKER新闻
2026-11-20 18:35:14
突然暴涨!这张20元纪念钞,你也约过!

突然暴涨!这张20元纪念钞,你也约过!

天天纪念币
2026-11-22 09:59:10
回顾:母亲协助男友两次强奸女儿,还叫女儿“别喊,忍着点!”

回顾:母亲协助男友两次强奸女儿,还叫女儿“别喊,忍着点!”

胡侃社会百态
2026-11-21 19:07:57
A股:股民坐稳扶好,不出意外的话,明天或迎一轮秋风扫落叶行情吗?

A股:股民坐稳扶好,不出意外的话,明天或迎一轮秋风扫落叶行情吗?

趋势清风侠
2026-11-22 13:20:26
扎心了!35岁股民哭诉2015年进场,反复操作亏近60万,靠家人还债,自述心态崩溃迷茫

扎心了!35岁股民哭诉2015年进场,反复操作亏近60万,靠家人还债,自述心态崩溃迷茫

火山詩话
2026-11-22 11:28:22
2026-11-22 18:55:00
阿鑫讲ai
阿鑫讲ai
专门讲解现阶段高热度的AI
134文章数 16关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

头条要闻

主播私闯果园带货糟蹋一千多斤苹果:切开后全扔地上

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

健康
手机
本地
房产
游戏

医生眼里"很伤腰"的椅子,很多人天天坐

手机要闻

消息称三星正为One UI 9.5引入新版实时通知

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

GTA6哪些建筑能进?原来看一眼地图就知道!

无障碍浏览 进入关怀版