网易首页 > 网易号 > 正文 申请入驻

GPT-6 Astra学会用「空白Token」思考!推理能力突然变强

0
分享至


新智元报道


给AI一道难题,不许写解题过程,只准交答案。

答不出来怎么办?

在题目后面,加上一长串毫无意义的点。

就这么一个操作,GPT-6 Astra在一项四跳推理测试中的准确率,从约10%升到了50%。旧AIME数学题上的表现,也从约60%升到了90%。


题目没变,没有补充知识,也没有递上解题提示。多出来的,只有填充Token。

这是Redwood Research在最新报告中,发现GPT-6 Astra背后推理的另一面。

一串……

让GPT-6突然开窍

先还原一下实验场景。

Redwood Research的研究人员给GPT-6 Astra出了一道需要连续推理四步的难题,

比如,1992年诺贝尔文学奖得主的出生日期是哪天?用这个日期去找对应届次的奥斯卡颁奖典礼,最佳女演员是谁?她又是哪天出生的?

难点在于,后一步必须拿到前一步的结果才能继续。第一步找错人,后面就会一路跑偏。

这正是「串行推理」:一环扣一环,不能把所有问题同时摊开来做。

此前测试的所有模型,在这类4-hop任务上准确率只有可怜的1%-3%。

然后研究人员做了一个看起来很傻的操作:在问题后面加了一串「............」。

什么也没问,就是一堆空白token。

Astra的准确率,从大约10%直接冲到了50%。

而对照组,Opus 4.5、Opus 5、GPT-5.6-Sol面对同样的空白token,几乎毫无反应。

只有Astra「看懂了」。或者说,它把那些空白当成了思考的空间。



数学题也涨分,但加点有上限

接下来,研究者把题目换成复杂算式。

多层括号,加减乘除交错,总计15个运算。模型需要处理中间结果,再把它们交给后续计算。

Astra再次表现出比其他受测模型更明显的提升。

不过,15个运算不等于15步串行推理:部分分支可以同时计算。这组测试考验的是嵌套计算能力,不能把运算数量直接当成思考深度。

竞赛数学也出现了类似现象。


研究者测试了两类题:一类将上世纪80年代的AIME题修改数字,以降低训练数据污染的影响;另一类来自2024至2026年的AIME和HMMT。

报告概述中,旧AIME题的准确率从约60%升至约90%。在相关竞赛题测试里,填充Token的收益大约在8192 Token附近达到峰值。

点,并非越多越灵。换成HLE和LiveBench,大多数类别也有改善,但整体幅度更温和。

另外,「其他模型完全做不到」也说过头了。报告的统计检验发现,GPT-5.6 Sol在三个基准上同样呈现提升,只是幅度远不及Astra。

推理Token为零

不等于没动脑

看到这里,很容易冒出一个问题:研究者真的把Astra的推理关掉了吗?

报告脚注交代了实验设置。

由于当时API不支持Astra的reasoning:none,团队使用低强度推理设置,再通过开发者指令要求模型直接回答,禁止输出任何推理过程。

他们确认,所有输出中,API报告的推理Token数量均为零。



这个「零」很关键,但它只代表接口记录的推理Token为零,无法证明模型内部完全没有计算。

研究者还换了几种填充方法:连续数数、重复题目,以及句点。在这些测试中,效果大致相似。

位置也有讲究。填充放在题目之后能带来收益;放到题目之前,没有观察到同样的效果。

这与一种解释相符,模型需要先接触问题,后面的额外位置才有机会参与解题。

AI不写过程

人类怎么看懂它?

Redwood真正担心的,是思维链监控。

一种安全监控思路,是检查模型写出的推理内容,从中寻找危险计划、欺骗意图或违规迹象。

但如果相当一部分计算无需写成文字,这扇观察窗口就可能漏掉重要内容。

当然,这次实验没有展示Astra实施恶意行为,也没有证明它故意隐瞒。研究者指出的是一种风险:模型可能具备比文字记录所呈现的更强的内部处理能力。

这也会影响评测。只要求AI「直接回答」,就把分数当作其无思维链能力的上限,可能低估它。

为此,团队建议,未来的无推理评测加入填充Token测试,进一步探查模型在不输出思维链时能做到什么。

这次实验留下的问题,远比「提示词后面加多少个点」更大。

AI没写出来的过程,还有多少是我们没看见的?

参考资料:

https://blog.redwoodresearch.org/p/astra-is-much-better-at-reasoning

编辑:桃子

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
恭喜陈蒲!恭喜高准翼!恭喜于金永,前泰山主帅郝伟也更新动态

恭喜陈蒲!恭喜高准翼!恭喜于金永,前泰山主帅郝伟也更新动态

王大发不懂球
2026-09-25 21:37:33
湖北省博“卧薪尝胆”棒棒糖走红,售价25元,表面一层是苦瓜味,馆方回应:实际没那么苦,糖棍可留下作剑形挂饰,目前仅支持现场购买

湖北省博“卧薪尝胆”棒棒糖走红,售价25元,表面一层是苦瓜味,馆方回应:实际没那么苦,糖棍可留下作剑形挂饰,目前仅支持现场购买

极目新闻
2026-09-21 12:49:37
全智贤与孙千同框引热议:身高体态相近被称“东北全智贤”

全智贤与孙千同框引热议:身高体态相近被称“东北全智贤”

东方不败然多多
2026-09-11 19:29:35
辽宁男篮VS山东!揭幕战拒绝输球,克里斯反戈一击,央视直播

辽宁男篮VS山东!揭幕战拒绝输球,克里斯反戈一击,央视直播

体坛瞎白话
2026-09-26 07:57:05
1-3惨败!看到27岁王曼昱亚运会输球后,才终于理解,樊振东退出世界排名并非一时冲动,真相压的人喘不动!

1-3惨败!看到27岁王曼昱亚运会输球后,才终于理解,樊振东退出世界排名并非一时冲动,真相压的人喘不动!

小七说篮球
2026-09-21 08:52:51
朱一龙路演对着卫诗雅深情唱情歌!卫诗雅笑称“我老公在现场”,朱一龙当场吓出表情包

朱一龙路演对着卫诗雅深情唱情歌!卫诗雅笑称“我老公在现场”,朱一龙当场吓出表情包

韩小娱
2026-09-26 09:26:09
美国梦碎、欧洲躺平、中国内卷:普通人阶层跨越的终极真相(2026深度好文)

美国梦碎、欧洲躺平、中国内卷:普通人阶层跨越的终极真相(2026深度好文)

经济学教授V
2026-09-03 19:17:17
今年的中秋节,出现了四个反常的现象!

今年的中秋节,出现了四个反常的现象!

农夫也疯狂
2026-09-25 20:12:09
美国人在投票的时候,如何确定是美国公民身份?以及法律争议?

美国人在投票的时候,如何确定是美国公民身份?以及法律争议?

蔡子博士说美国
2026-09-26 09:34:05
方媛好能忍!郭富城本人满脸皱纹,还有老年斑,个子不高像小老头

方媛好能忍!郭富城本人满脸皱纹,还有老年斑,个子不高像小老头

八卦王者
2026-09-09 14:23:41
一针没打的280万人,2026年身体真相曝光

一针没打的280万人,2026年身体真相曝光

华庭讲美食
2026-08-26 01:21:08
姜妍带火的“卡普里裤”,上海满大街都在穿,搭配风衣、薄底鞋,真时髦

姜妍带火的“卡普里裤”,上海满大街都在穿,搭配风衣、薄底鞋,真时髦

全球时尚
2026-09-25 20:08:05
中国最诡异的4家平台公司:所有风险留给穷人,所有暴利留给自己

中国最诡异的4家平台公司:所有风险留给穷人,所有暴利留给自己

白浅娱乐聊
2026-09-22 00:31:33
八天票房不到6万,《牛来》复制品惨败,10万成本全打水漂

八天票房不到6万,《牛来》复制品惨败,10万成本全打水漂

影视高原说
2026-09-24 14:38:17
中秋利好,欧美大涨

中秋利好,欧美大涨

中国基金报
2026-09-25 16:42:37
一口地道中文圈粉中国网友特朗普外孙女亮相白宫从小深耕中国文化

一口地道中文圈粉中国网友特朗普外孙女亮相白宫从小深耕中国文化

云隐南山
2026-09-26 09:17:44
回顾:被宠坏的“恶少”李天一,被判10年后出狱,仍然死性不改

回顾:被宠坏的“恶少”李天一,被判10年后出狱,仍然死性不改

白云故事
2025-01-24 18:25:03
伊朗总统拼了!为达成协议,给特朗普许下3个承诺,强硬派要炸锅

伊朗总统拼了!为达成协议,给特朗普许下3个承诺,强硬派要炸锅

观锐器
2026-09-25 17:17:38
你发现了吗?5人合影中,朱媛媛即使是素颜,反倒气质是最好的。小陶红右边美女是谁?甜甜笑容,五官长得比朱媛媛还周正,她也是演员吗?

你发现了吗?5人合影中,朱媛媛即使是素颜,反倒气质是最好的。小陶红右边美女是谁?甜甜笑容,五官长得比朱媛媛还周正,她也是演员吗?

小琦聊生活
2026-09-25 13:22:17
曼城王朝或将全盘作废改写英超足坛历史!十球队将瓜分其所获冠军

曼城王朝或将全盘作废改写英超足坛历史!十球队将瓜分其所获冠军

低调看天下
2026-09-26 09:14:24
2026-09-26 10:36:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16277文章数 67092关注度
往期回顾 全部

科技要闻

拖了近10年,特斯拉Semi终于量产!

头条要闻

山西省公安厅、商务厅、退役军人事务厅厅长 同日调整

头条要闻

山西省公安厅、商务厅、退役军人事务厅厅长 同日调整

体育要闻

这场青春风暴,中国足球等了太久

娱乐要闻

好甜!井柏然刘雯结伴看李荣浩演唱会

财经要闻

盖茨:AI已强大到足以造成"10亿人死亡"

汽车要闻

小鹏G9L VS 保时捷卡宴,同场实测讲解

态度原创

游戏
时尚
数码
艺术
本地

当MMO越来越肝氪,《龙之谷》端出了红莲宫主题服做减法

早秋火了一种穿搭,叫“外套+连衣裙”,大方优雅又不挑年纪

数码要闻

已收录96款设备:苹果公开iPhone 18 Pro、AirPods 5等尺寸图纸

艺术要闻

吴冠中的这张《春》,931.5万!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

无障碍浏览 进入关怀版