网易首页 > 网易号 > 正文 申请入驻

128K上下文窗口输给了8K?智能体主动管理上下文才是关键

0
分享至

一个128K上下文窗口的模型,在长任务基准测试中平均得分45.93;而同一个模型,只给它8K-10K的上下文空间,得分却飙到69.40。差距不是来自更大的窗口,而是来自一个叫ContextPilot的机制——它让智能体自己决定什么该留在上下文里。

这篇论文的核心观点很直接:长期运行的智能体(agent)需要的不是更大的上下文窗口,而是学会判断什么信息值得留在上下文中。当智能体不断执行搜索、调用工具、记录推理过程,提示词(prompt)里的内容会越堆越多。最终,模型花费大量token去区分哪些是有用的信息,哪些是过时的杂物——效率反而下降了。


问题不在窗口大小,在管理方式

ContextPilot的思路是把这个管理权交给智能体自己。它被赋予了几项能力:规划上下文的使用、把重要信息保存到长期记忆、对旧内容进行总结、压缩或直接删除。这些操作不再是预设规则,而是通过强化学习(RL)训练出来的策略——模型在学习过程中逐渐明白,哪些上下文决策真正有助于完成任务。

论文用Qwen3-8B做了对比实验。在4个长上下文基准测试中,使用ContextPilot训练的版本(ContextPilot-8B-RL)平均得分69.40,而同一个模型使用128K窗口但没有任何上下文管理工具时,平均得分只有45.93。这个差距说明,单纯扩大窗口并不能解决长任务中的信息过载问题。

上下文占用对比:8K vs 30K

更直观的对比出现在BrowseComp基准测试上。ContextPilot-8B-RL在每轮任务中保持约8K-10K token的上下文占用,而对照组WebExplorer-8B的上下文则一路膨胀到接近30K token。三倍的上下文消耗,换来的却是更低的得分——信息堆积带来的负面影响,比很多人预想的更严重。

这组数据指向一个反直觉的结论:给智能体一个更小的、可主动管理的工作上下文,比给它一个巨大的、被动堆积的窗口更有效。上下文管理的核心不是"装得下",而是"留得对"。

论文的最终建议

研究团队给出的建议很明确:停止把整个对话历史当作记忆来对待。应该给智能体一个较小的、可主动管理的工作上下文,并通过训练让它学会保留真正重要的信息。换句话说,上下文管理应该是一项学习得来的策略,而不是一个静态的容量参数。

这个思路对当前大模型应用有直接参考价值。长任务场景下,上下文膨胀是普遍痛点——无论是代码生成、多轮对话还是复杂工具调用,token消耗和有效信息密度之间的矛盾一直存在。ContextPilot提供了一条新路径:与其不断堆硬件和窗口,不如让模型自己学会取舍。

论文已发布在arXiv上(编号2608.28476),感兴趣的读者可以查看完整实验细节。这项研究目前仍处于学术阶段,距离工程落地还有距离,但它指出的方向——上下文管理作为可学习策略——值得做长任务应用的团队认真考虑。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
巴黎圣日耳曼的陨落,从卖人卖上瘾开始

巴黎圣日耳曼的陨落,从卖人卖上瘾开始

未来展望
2026-09-05 22:56:38
未来20天,霉运到头,好事接连落地的三个星座

未来20天,霉运到头,好事接连落地的三个星座

小晴星座说
2026-09-06 03:04:22
一夜输光几十万,打工小伙喝下整瓶百草枯:被伤透的妻子选择放弃治疗

一夜输光几十万,打工小伙喝下整瓶百草枯:被伤透的妻子选择放弃治疗

民生故事会
2026-09-05 23:23:10
嘿嘿越大力对方越爽?香皂沐能当润滑剂?这是真的吗?

嘿嘿越大力对方越爽?香皂沐能当润滑剂?这是真的吗?

荷兰豆爱健康
2026-09-03 11:48:44
尼泊尔泥石流中失联的中国公民10天后获救,姐姐:看到照片马上认出是弟弟

尼泊尔泥石流中失联的中国公民10天后获救,姐姐:看到照片马上认出是弟弟

封面新闻
2026-09-05 19:29:12
3连败!意甲100年老店2-9开局:一夏砸1.5亿签15人 48岁少帅或下课

3连败!意甲100年老店2-9开局:一夏砸1.5亿签15人 48岁少帅或下课

风过乡
2026-09-05 23:53:41
中建最拼的董事长、总经理!

中建最拼的董事长、总经理!

爱看剧的阿峰
2026-09-06 03:58:30
决胜盘女王?郑钦文连续4场美网3盘取胜!让5追7造大满贯31年神迹

决胜盘女王?郑钦文连续4场美网3盘取胜!让5追7造大满贯31年神迹

我爱英超
2026-09-06 02:32:56
莆田暴雨洪灾直击:泥砖房连片倒塌,历经十多个小时救援队救出一对被困母女

莆田暴雨洪灾直击:泥砖房连片倒塌,历经十多个小时救援队救出一对被困母女

澎湃新闻
2026-09-05 09:08:27
辽宁一处长深夜遭枪击,7年后在高位截瘫中去世,头盖骨因打止痛针呈淡绿色,女儿收到警方回信痛哭:25年来从未放弃,我爸需要真相昭雪

辽宁一处长深夜遭枪击,7年后在高位截瘫中去世,头盖骨因打止痛针呈淡绿色,女儿收到警方回信痛哭:25年来从未放弃,我爸需要真相昭雪

极目新闻
2026-08-26 15:30:46
轮到伊朗斩首了,导弹从天而降,大批美军官被抬走?英法德俄失声

轮到伊朗斩首了,导弹从天而降,大批美军官被抬走?英法德俄失声

健身狂人
2026-09-05 05:50:24
中国真白忙一场?埃及这招绝了:不买中国机,拿法国的当压价神器

中国真白忙一场?埃及这招绝了:不买中国机,拿法国的当压价神器

玲儿爱唱歌
2026-09-05 22:52:28
注销手机号等于出卖自己,网友:手机号现主人用我的免密付坐地铁

注销手机号等于出卖自己,网友:手机号现主人用我的免密付坐地铁

另子维爱读史
2026-09-04 21:03:50
北洋政府拒绝苏联示好,认为其居心叵测,意图向中国输出革命

北洋政府拒绝苏联示好,认为其居心叵测,意图向中国输出革命

小豫讲故事
2026-08-30 06:00:12
彻底摊牌了?一个欠9亿一个骗13.9亿,董卿被爆猛料,原来她和王丽坤同样困境

彻底摊牌了?一个欠9亿一个骗13.9亿,董卿被爆猛料,原来她和王丽坤同样困境

她时尚丫
2026-08-07 18:55:34
四队大交易方案:国王队如何引进杜伦

四队大交易方案:国王队如何引进杜伦

赛场速报局
2026-09-06 03:09:24
日本记者打了27通电话给中国大学,21所回复:赴日交换生,全暂停

日本记者打了27通电话给中国大学,21所回复:赴日交换生,全暂停

娱乐的宅急便
2026-09-05 06:14:28
“川普死了”——川黑黄白左反川已到了顾头不顾腚的程度

“川普死了”——川黑黄白左反川已到了顾头不顾腚的程度

壹家言
2026-09-05 10:47:01
被当街扒裤的女子回应了:她是女主播,打她的女人找不到老公了,怀疑她是小三

被当街扒裤的女子回应了:她是女主播,打她的女人找不到老公了,怀疑她是小三

汉史趣闻
2026-09-02 18:57:28
专家劝告:高血压谨记,早晨1大忌,中午2不要,晚上3不做

专家劝告:高血压谨记,早晨1大忌,中午2不要,晚上3不做

普陀动物世界
2026-09-06 03:46:46
2026-09-06 05:19:00
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
208文章数 80关注度
往期回顾 全部

科技要闻

华为何庭波,再次更新韬定律论文

头条要闻

江西遂川泥石流1死11失联 男子:母亲电话一直打不通

头条要闻

江西遂川泥石流1死11失联 男子:母亲电话一直打不通

体育要闻

本西蒙斯加盟国王,不管怎样,回来就好

娱乐要闻

阿Sa蔡卓妍首度求婚细节,感动落泪

财经要闻

被曝试药后死亡,药企董事竟怒怼记者

汽车要闻

千里浩瀚H5/30英寸大屏 星越L PLUS让你看到油车越级的一面

态度原创

房产
亲子
手机
数码
公开课

房产要闻

突发重磅!海口出台楼市新政!

亲子要闻

AI造娃?生殖专家开发“智能扫精术”,无精症患者都能硬找出蝌蚪生?

手机要闻

华为Pura 90系列未加入涨价潮:价格最稳的华为影像旗舰

数码要闻

复古科技热潮推动实体音乐回归 CD销量意外迎来强劲反弹

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版