网易首页 > 网易号 > 正文 申请入驻

GPT-6 Astra学会用「空白Token」思考!推理能力突然变强

0
分享至


来源:新智元

编辑:桃子

给AI一道难题,不许写解题过程,只准交答案。

答不出来怎么办?

在题目后面,加上一长串毫无意义的点。

就这么一个操作,GPT-6 Astra在一项四跳推理测试中的准确率,从约10%升到了50%。旧AIME数学题上的表现,也从约60%升到了90%。


题目没变,没有补充知识,也没有递上解题提示。多出来的,只有填充Token。

这是Redwood Research在最新报告中,发现GPT-6 Astra背后推理的另一面。

一串……

让GPT-6突然开窍

先还原一下实验场景。

Redwood Research的研究人员给GPT-6 Astra出了一道需要连续推理四步的难题,

比如,1992年诺贝尔文学奖得主的出生日期是哪天?用这个日期去找对应届次的奥斯卡颁奖典礼,最佳女演员是谁?她又是哪天出生的?

难点在于,后一步必须拿到前一步的结果才能继续。第一步找错人,后面就会一路跑偏。

这正是「串行推理」:一环扣一环,不能把所有问题同时摊开来做。

此前测试的所有模型,在这类4-hop任务上准确率只有可怜的1%-3%。

然后研究人员做了一个看起来很傻的操作:在问题后面加了一串「............」。

什么也没问,就是一堆空白token。

Astra的准确率,从大约10%直接冲到了50%。

而对照组,Opus 4.5、Opus 5、GPT-5.6-Sol面对同样的空白token,几乎毫无反应。

只有Astra「看懂了」。或者说,它把那些空白当成了思考的空间。



数学题也涨分,但加点有上限

接下来,研究者把题目换成复杂算式。

多层括号,加减乘除交错,总计15个运算。模型需要处理中间结果,再把它们交给后续计算。

Astra再次表现出比其他受测模型更明显的提升。

不过,15个运算不等于15步串行推理:部分分支可以同时计算。这组测试考验的是嵌套计算能力,不能把运算数量直接当成思考深度。

竞赛数学也出现了类似现象。


研究者测试了两类题:一类将上世纪80年代的AIME题修改数字,以降低训练数据污染的影响;另一类来自2024至2026年的AIME和HMMT。

报告概述中,旧AIME题的准确率从约60%升至约90%。在相关竞赛题测试里,填充Token的收益大约在8192 Token附近达到峰值。

点,并非越多越灵。换成HLE和LiveBench,大多数类别也有改善,但整体幅度更温和。

另外,「其他模型完全做不到」也说过头了。报告的统计检验发现,GPT-5.6 Sol在三个基准上同样呈现提升,只是幅度远不及Astra。

推理Token为零

不等于没动脑

看到这里,很容易冒出一个问题:研究者真的把Astra的推理关掉了吗?

报告脚注交代了实验设置。

由于当时API不支持Astra的reasoning:none,团队使用低强度推理设置,再通过开发者指令要求模型直接回答,禁止输出任何推理过程。

他们确认,所有输出中,API报告的推理Token数量均为零。



这个「零」很关键,但它只代表接口记录的推理Token为零,无法证明模型内部完全没有计算。

研究者还换了几种填充方法:连续数数、重复题目,以及句点。在这些测试中,效果大致相似。

位置也有讲究。填充放在题目之后能带来收益;放到题目之前,没有观察到同样的效果。

这与一种解释相符,模型需要先接触问题,后面的额外位置才有机会参与解题。

AI不写过程

人类怎么看懂它?

Redwood真正担心的,是思维链监控。

一种安全监控思路,是检查模型写出的推理内容,从中寻找危险计划、欺骗意图或违规迹象。

但如果相当一部分计算无需写成文字,这扇观察窗口就可能漏掉重要内容。

当然,这次实验没有展示Astra实施恶意行为,也没有证明它故意隐瞒。研究者指出的是一种风险:模型可能具备比文字记录所呈现的更强的内部处理能力。

这也会影响评测。只要求AI「直接回答」,就把分数当作其无思维链能力的上限,可能低估它。

为此,团队建议,未来的无推理评测加入填充Token测试,进一步探查模型在不输出思维链时能做到什么。

这次实验留下的问题,远比「提示词后面加多少个点」更大。

AI没写出来的过程,还有多少是我们没看见的?

参考资料:

https://blog.redwoodresearch.org/p/astra-is-much-better-at-reasoning

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
太心酸了!丈夫一句“我送外卖你出轨”引发轩然大波:00后妻子被曝一年出轨十多人,跑外卖丈夫多次原谅后心灰意冷,决定放手

太心酸了!丈夫一句“我送外卖你出轨”引发轩然大波:00后妻子被曝一年出轨十多人,跑外卖丈夫多次原谅后心灰意冷,决定放手

火山詩话
2026-10-25 13:40:12
为什么中国不说英语?美国女博主:游客连中文都懒得学,凭什么要求14亿人花几年学英语招待客人

为什么中国不说英语?美国女博主:游客连中文都懒得学,凭什么要求14亿人花几年学英语招待客人

户外阿毽
2026-10-26 07:32:35
APEC峰会前夕,高市早苗突然对华发声,提及台湾问题,用意不一般

APEC峰会前夕,高市早苗突然对华发声,提及台湾问题,用意不一般

小管聊一聊
2026-10-26 17:52:27
相貌平平的贝克汉姆接班人,抛弃阿森纳转投曼联,却被C罗逆袭

相貌平平的贝克汉姆接班人,抛弃阿森纳转投曼联,却被C罗逆袭

足篮大世界
2026-10-27 18:11:44
央视《缅北电诈覆灭纪实》再次证实佘智江和黄有龙的联系,盆友们,真相快要大白了!

央视《缅北电诈覆灭纪实》再次证实佘智江和黄有龙的联系,盆友们,真相快要大白了!

BenSir本色说
2026-10-10 23:17:13
纯钛杯、纯钛餐具的第一批受害者出现了…

纯钛杯、纯钛餐具的第一批受害者出现了…

新住家居
2026-10-24 18:06:53
巴西最高法院裁定禁止弗拉维奥·博索纳罗离境

巴西最高法院裁定禁止弗拉维奥·博索纳罗离境

新华社
2026-10-27 10:00:07
林徽因落选的国徽方案,网友看后感叹:审美确实一绝,但真不合适

林徽因落选的国徽方案,网友看后感叹:审美确实一绝,但真不合适

兴趣知识
2026-07-04 01:34:41
屁股烂肉生蛆、全身骨折!被11年发小一桌200万现金骗进缅北,他熬过9个月地狱才爬回国

屁股烂肉生蛆、全身骨折!被11年发小一桌200万现金骗进缅北,他熬过9个月地狱才爬回国

秋风妃
2026-10-25 14:07:44
国内油价调整通知:10月27日柴油、92号汽油价格,本周油价大幅上涨

国内油价调整通知:10月27日柴油、92号汽油价格,本周油价大幅上涨

有料财经
2026-10-26 23:48:58
争议!金球奖中国区评委公布投票情况:把梅西排第1,凯恩仅列第4

争议!金球奖中国区评委公布投票情况:把梅西排第1,凯恩仅列第4

全景体育V
2026-10-27 08:11:33
很扎心!妻子感冒想让丈夫回来照顾孩子,丈夫要应酬转账10000,妻子:该不该离婚?网友吵翻了!

很扎心!妻子感冒想让丈夫回来照顾孩子,丈夫要应酬转账10000,妻子:该不该离婚?网友吵翻了!

丫头舫
2026-10-26 18:43:28
肖战给孕妇“接生戏”在全网火了,郑晓龙的评价,终于有人信了

肖战给孕妇“接生戏”在全网火了,郑晓龙的评价,终于有人信了

糊咖娱乐
2026-10-27 11:46:34
DeepSeek梁文锋被曝长期在北京租房 房间布置比较简单

DeepSeek梁文锋被曝长期在北京租房 房间布置比较简单

快科技
2026-10-27 14:46:23
局势升级!美防长宣布反华言论,国防部出手,大批中国机构遭清除

局势升级!美防长宣布反华言论,国防部出手,大批中国机构遭清除

影孖看世界
2026-10-27 21:41:10
卫冕冠军0胜3负!揭秘尼克斯低迷4大原因:布里奇斯跌到谷底

卫冕冠军0胜3负!揭秘尼克斯低迷4大原因:布里奇斯跌到谷底

罗说NBA
2026-10-27 21:13:01
孙颖莎因病休整二十多天复出首战,以3-0晋级将战申裕斌!林诗栋3-0林钟勋!

孙颖莎因病休整二十多天复出首战,以3-0晋级将战申裕斌!林诗栋3-0林钟勋!

开成运动会
2026-10-27 22:20:41
上海独生女继承2亿遗产,结婚才一年的丈夫起诉离婚分财产,律师解读:在婚内法定继承,为夫妻共同财产

上海独生女继承2亿遗产,结婚才一年的丈夫起诉离婚分财产,律师解读:在婚内法定继承,为夫妻共同财产

大风新闻
2026-10-27 12:07:02
姆巴佩到底说了些什么

姆巴佩到底说了些什么

深度财线
2026-10-27 12:30:47
埃及给世界演绎什么叫大国平衡:24架法国“阵风”意向书还没凉,中国歼-16空警-500已在开罗上空盘旋

埃及给世界演绎什么叫大国平衡:24架法国“阵风”意向书还没凉,中国歼-16空警-500已在开罗上空盘旋

磊子讲史
2026-10-08 15:33:48
2026-10-27 23:24:49
人工智能学家 incentive-icons
人工智能学家
人工智能领域权威媒体
5126文章数 37529关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

25岁女生患肠癌休学一年后重返校园 复查显示无瘤生存

头条要闻

25岁女生患肠癌休学一年后重返校园 复查显示无瘤生存

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

韩国芯片出口额可能下降高达1000亿美元

汽车要闻

纯电续航1003km 大五座SUV腾势N8正式开启预订

态度原创

房产
艺术
数码
公开课
军事航空

房产要闻

从全国第一跌到第七!海南人,放下生娃焦虑!

艺术要闻

550米!20年前的“上海第一高楼”方案,SOM设计

数码要闻

联合创新推出“C27Q1”27英寸显示器:2K 120Hz OLED,1599元

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊总统佩泽希齐扬抵达莫斯科 俄仪仗队列队迎接

无障碍浏览 进入关怀版