网易首页 > 网易号 > 正文 申请入驻

上下文窗口涨了120倍,英伟达研究员却说这是死路

0
分享至

语言模型现在能一口气读完一整本小说。英伟达的一个研究团队认为,这往往是杀鸡用牛刀,而且很贵。


先解释一下上下文窗口是什么。它是模型的工作记忆,覆盖生成回复时它能"看见"的全部内容。过去几年,这个窗口膨胀得很快。

GPT-4 在2023年3月发布时是 8,192 个token。如今 GPT 5.6 Sol 能处理约 100万 个token,约为前者的 120倍,足够装下托尔斯泰的《战争与和平》。

但英伟达研究团队的观点是:窗口大不等于好用。在多项测试中,定期摘要加上定向查找,效果和塞满整个窗口差不多。

对天天和模型打交道的打工人来说,这个结论有点扎心。大家默认的升级路径是"上下文越长越强",可如果摘要加检索就能达到相近效果,那把整本书硬塞进去,付出的成本换回来的可能只是心理安慰。

窗口该开多大,或许得看任务,而不是看参数表上的数字。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
山东一8岁男孩游泳比赛泳裤脱落,坚持游完取得第8名,孩子妈妈:孩子临危不乱、从容抗压的强大心理素质,是本次比赛最大的收获

山东一8岁男孩游泳比赛泳裤脱落,坚持游完取得第8名,孩子妈妈:孩子临危不乱、从容抗压的强大心理素质,是本次比赛最大的收获

极目新闻
2026-11-22 20:26:22
黄金什么时候会跌到500块钱一克?

黄金什么时候会跌到500块钱一克?

流苏晚晴
2026-07-13 22:22:40
高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

可达鸭面面观
2026-11-20 08:41:45
GTA6强开DLSS5截图极其逼真!玩家期待上PC

GTA6强开DLSS5截图极其逼真!玩家期待上PC

游民星空
2026-11-21 15:52:45
54岁杨钰莹近况曝光:定居深圳,每天打理菜园子,生活平淡

54岁杨钰莹近况曝光:定居深圳,每天打理菜园子,生活平淡

小徐讲八卦
2025-11-17 07:29:28
真水下055!西方爆料中国新核潜艇耐压壳直径13米,排水量13000吨

真水下055!西方爆料中国新核潜艇耐压壳直径13米,排水量13000吨

西北汉子
2026-11-22 13:37:59
49岁弟弟不烟不酒,坚持打羽毛球十几年,却突发大面积脑梗、半身瘫痪

49岁弟弟不烟不酒,坚持打羽毛球十几年,却突发大面积脑梗、半身瘫痪

小虎新车推荐员
2026-11-23 00:36:17
A股:紧急提醒2.5亿股民!从明天11月23日起,A股可能再次历史重演?

A股:紧急提醒2.5亿股民!从明天11月23日起,A股可能再次历史重演?

趋势清风侠
2026-11-22 09:13:47
嫁78岁法国老头水落石出,42岁李宇春私生活曝光,丝毫不感到意外

嫁78岁法国老头水落石出,42岁李宇春私生活曝光,丝毫不感到意外

夏末的晨溪
2026-09-08 11:55:33
何小鹏最聪明的一笔交易,不是创建了小鹏汽车,而是把UC浏览器43.5亿美元高位套现!

何小鹏最聪明的一笔交易,不是创建了小鹏汽车,而是把UC浏览器43.5亿美元高位套现!

元气科技馆
2026-11-10 20:28:19
郭威肠子悔青,没钱还房贷工作也丢,田静给许妈示好:我们是直系

郭威肠子悔青,没钱还房贷工作也丢,田静给许妈示好:我们是直系

子芫伴你成长
2025-03-25 23:13:48
到了大二才懂:大学里不谈恋爱的同学,大多属于这三种类型

到了大二才懂:大学里不谈恋爱的同学,大多属于这三种类型

户外阿毽
2026-11-21 13:44:24
炸锅了!革命卫队和伊朗总统罕见统一战线,要从穆杰塔巴手里夺权

炸锅了!革命卫队和伊朗总统罕见统一战线,要从穆杰塔巴手里夺权

乐享人生风雨
2026-11-22 14:58:19
A股:关于下周的市场,我只说两点:第一,3600点不会成为山顶?

A股:关于下周的市场,我只说两点:第一,3600点不会成为山顶?

虎哥闲聊
2026-11-22 19:52:46
红果短剧有多离谱?套路千篇一律,逻辑全崩,为何还让人上瘾

红果短剧有多离谱?套路千篇一律,逻辑全崩,为何还让人上瘾

浩渺青史
2026-11-20 01:27:26
TVB上位小花一个动作令网民喊救命!《女神2》监制顶不顺:好Kam

TVB上位小花一个动作令网民喊救命!《女神2》监制顶不顺:好Kam

TVB资讯台
2026-11-22 20:44:57
国际金价跌破3600美元!原因何在?

国际金价跌破3600美元!原因何在?

澎湃新闻
2026-11-22 10:22:01
高市早苗曾公开宣称日本侵华是“自卫”,“是一场为安全保障而进行的战争”

高市早苗曾公开宣称日本侵华是“自卫”,“是一场为安全保障而进行的战争”

极目新闻
2026-09-18 14:36:50
一日3喜?郑丽文乐开花!国民党2人太给力,蒋万安憋了个“大招”

一日3喜?郑丽文乐开花!国民党2人太给力,蒋万安憋了个“大招”

越过海面
2026-11-22 07:33:41
广东多地将有大雨!新冷空气明起到货,气温最高再降5℃

广东多地将有大雨!新冷空气明起到货,气温最高再降5℃

城事特搜
2026-11-22 19:14:42
2026-11-23 02:28:49
碳基打工人
碳基打工人
坐标北京,靠咖啡续命,靠小红书下饭的普通人类。
164文章数 91关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

手机
房产
数码
公开课
军事航空

手机要闻

星芒OSTA O1 Pro新机确认支持华为自研Wi-Fi 7+芯片级协同技术

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

数码要闻

内存价格暴涨下,华硕考虑将中低端PC内存由16GB降至8GB

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版