网易首页 > 网易号 > 正文 申请入驻

128K上下文窗口输给了8K?智能体主动管理上下文才是关键

0
分享至

一个128K上下文窗口的模型,在长任务基准测试中平均得分45.93;而同一个模型,只给它8K-10K的上下文空间,得分却飙到69.40。差距不是来自更大的窗口,而是来自一个叫ContextPilot的机制——它让智能体自己决定什么该留在上下文里。

这篇论文的核心观点很直接:长期运行的智能体(agent)需要的不是更大的上下文窗口,而是学会判断什么信息值得留在上下文中。当智能体不断执行搜索、调用工具、记录推理过程,提示词(prompt)里的内容会越堆越多。最终,模型花费大量token去区分哪些是有用的信息,哪些是过时的杂物——效率反而下降了。


问题不在窗口大小,在管理方式

ContextPilot的思路是把这个管理权交给智能体自己。它被赋予了几项能力:规划上下文的使用、把重要信息保存到长期记忆、对旧内容进行总结、压缩或直接删除。这些操作不再是预设规则,而是通过强化学习(RL)训练出来的策略——模型在学习过程中逐渐明白,哪些上下文决策真正有助于完成任务。

论文用Qwen3-8B做了对比实验。在4个长上下文基准测试中,使用ContextPilot训练的版本(ContextPilot-8B-RL)平均得分69.40,而同一个模型使用128K窗口但没有任何上下文管理工具时,平均得分只有45.93。这个差距说明,单纯扩大窗口并不能解决长任务中的信息过载问题。

上下文占用对比:8K vs 30K

更直观的对比出现在BrowseComp基准测试上。ContextPilot-8B-RL在每轮任务中保持约8K-10K token的上下文占用,而对照组WebExplorer-8B的上下文则一路膨胀到接近30K token。三倍的上下文消耗,换来的却是更低的得分——信息堆积带来的负面影响,比很多人预想的更严重。

这组数据指向一个反直觉的结论:给智能体一个更小的、可主动管理的工作上下文,比给它一个巨大的、被动堆积的窗口更有效。上下文管理的核心不是"装得下",而是"留得对"。

论文的最终建议

研究团队给出的建议很明确:停止把整个对话历史当作记忆来对待。应该给智能体一个较小的、可主动管理的工作上下文,并通过训练让它学会保留真正重要的信息。换句话说,上下文管理应该是一项学习得来的策略,而不是一个静态的容量参数。

这个思路对当前大模型应用有直接参考价值。长任务场景下,上下文膨胀是普遍痛点——无论是代码生成、多轮对话还是复杂工具调用,token消耗和有效信息密度之间的矛盾一直存在。ContextPilot提供了一条新路径:与其不断堆硬件和窗口,不如让模型自己学会取舍。

论文已发布在arXiv上(编号2608.28476),感兴趣的读者可以查看完整实验细节。这项研究目前仍处于学术阶段,距离工程落地还有距离,但它指出的方向——上下文管理作为可学习策略——值得做长任务应用的团队认真考虑。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
帮男生压枪,喝特浓蟑螂奶,今年的搞笑诺贝尔奖味太冲了。

帮男生压枪,喝特浓蟑螂奶,今年的搞笑诺贝尔奖味太冲了。

差评XPIN
2026-09-06 00:08:12
男人一天最多能几次?别盲目逞强!医生曝出透支上限,多数人都超了

男人一天最多能几次?别盲目逞强!医生曝出透支上限,多数人都超了

荔子言
2026-08-26 15:20:06
泰国真是太损了!美军五千官兵在航母上憋了200多天,终于要上岸休整了,结果泰国抢先动手连夜清查,几十名涉非法色情行业的人员被带走

泰国真是太损了!美军五千官兵在航母上憋了200多天,终于要上岸休整了,结果泰国抢先动手连夜清查,几十名涉非法色情行业的人员被带走

扶苏聊历史
2026-09-02 15:26:46
被立案调查才24天,53岁郭德纲再迎噩耗!

被立案调查才24天,53岁郭德纲再迎噩耗!

叨唠
2026-09-04 07:00:20
欠债不还,隐婚生子?56岁古天乐被告上法庭,王晶当年的话没说错

欠债不还,隐婚生子?56岁古天乐被告上法庭,王晶当年的话没说错

体育小柚
2026-09-05 09:58:20
让二追三国米逆转那不勒斯!终于会踢强队了,这比三连胜重要的多

让二追三国米逆转那不勒斯!终于会踢强队了,这比三连胜重要的多

里芃芃体育
2026-09-06 10:15:20
金价一夜下跌 2026年9月6日黄金价格行情走势分析 今日最新金价

金价一夜下跌 2026年9月6日黄金价格行情走势分析 今日最新金价

生活新鲜市
2026-09-06 11:47:28
我认为,杨紫很大概率,就是王嘉尔这一辈子,遇到的最喜欢的女性,早在2019年录制拜托了冰箱的时候,杨紫突然现身节目

我认为,杨紫很大概率,就是王嘉尔这一辈子,遇到的最喜欢的女性,早在2019年录制拜托了冰箱的时候,杨紫突然现身节目

喜欢历史的阿繁
2026-09-06 00:17:03
广东一女童电子病历“既往史”被医生标注“刁蛮”二字;吴川市卫健局回应:涉事医生表示标注“刁蛮”是为了“方便以后不再看这个病人”

广东一女童电子病历“既往史”被医生标注“刁蛮”二字;吴川市卫健局回应:涉事医生表示标注“刁蛮”是为了“方便以后不再看这个病人”

江西晨报
2026-09-04 18:30:48
莫言:动不动就发火的人,没有一个是智者——生活多半过得一团糟糕

莫言:动不动就发火的人,没有一个是智者——生活多半过得一团糟糕

杏花烟雨江南的碧园
2026-09-03 14:15:03
联合国秘书长退休前,没什么是他不敢说的,丝毫不给这两国留情面

联合国秘书长退休前,没什么是他不敢说的,丝毫不给这两国留情面

毒sir财经
2026-09-05 07:00:19
板栗立大功!医生研究表明:板栗对4种疾病有好处,建议经常吃

板栗立大功!医生研究表明:板栗对4种疾病有好处,建议经常吃

纸上的心语
2026-09-05 22:35:55
冉莹颖给爸爸三婚妻子塞钱:“我不是给他的,是给您拿的”

冉莹颖给爸爸三婚妻子塞钱:“我不是给他的,是给您拿的”

韩小娱
2026-09-06 08:44:41
意外!南京城市队正式官宣换帅,49岁的前申花名将出任主教练

意外!南京城市队正式官宣换帅,49岁的前申花名将出任主教练

张丽说足球
2026-09-05 10:44:04
大家乐深夜道歉:用餐后不适的顾客,当天都吃了“蛋炒饭”

大家乐深夜道歉:用餐后不适的顾客,当天都吃了“蛋炒饭”

南方都市报
2026-09-06 08:48:03
“和平委员会”资助以军清理加沙废墟引争议

“和平委员会”资助以军清理加沙废墟引争议

参考消息
2026-09-05 11:40:17
688012,半导体龙头,逾百家私募盯上它(附名单)

688012,半导体龙头,逾百家私募盯上它(附名单)

数据宝
2026-09-06 08:13:19
巴基斯坦专家曾说:这3场战争已证明,中国才是世界最强超级大国

巴基斯坦专家曾说:这3场战争已证明,中国才是世界最强超级大国

锅锅爱历史
2026-09-05 22:29:39
彻底摊牌了?一个欠9亿一个骗13.9亿,董卿被爆猛料,原来她和王丽坤同样困境

彻底摊牌了?一个欠9亿一个骗13.9亿,董卿被爆猛料,原来她和王丽坤同样困境

她时尚丫
2026-08-07 18:55:34
欧锦赛半决赛落幕!土耳其意大利会师决赛,两大顶级接应巅峰对决

欧锦赛半决赛落幕!土耳其意大利会师决赛,两大顶级接应巅峰对决

金毛爱女排
2026-09-06 08:45:42
2026-09-06 13:04:49
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
216文章数 80关注度
往期回顾 全部

科技要闻

DeepSeek被曝将采购16万颗华为昇腾950DT

头条要闻

5架退役民航客机被打包拍卖 起拍价500万元

头条要闻

5架退役民航客机被打包拍卖 起拍价500万元

体育要闻

本西蒙斯加盟国王,不管怎样,回来就好

娱乐要闻

低调富养!郭富城两女儿入读香港名校

财经要闻

亏损高达200亿,昔日彩电霸主走下巅峰!

汽车要闻

带升降立标MPV 岚图梦想家9预售价42.99万起

态度原创

房产
游戏
艺术
本地
公开课

房产要闻

突发重磅!海口出台楼市新政!

曝《美末》艾莉故事或将继续 还有战神汤米衍生作!

艺术要闻

有光的静物花卉,俄罗斯当代画家维罗尼卡·洛巴列娃

本地新闻

扒完小作文,富豪们私藏的度假胜地有多绝

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版