网易首页 > 网易号 > 正文 申请入驻

新基准开测「AI第六感」!人类一眼秒懂,最强模型只拿53.6分

0
分享至


新智元报道


AI能读图表、做竞赛题、识别密密麻麻的文字,甚至用上万枚推理Token,把一道视觉题分析得头头是道。

但它可能看不出:追公交的女人为什么突然慢了下来;两辆车之间还能不能再塞进一辆;会议室里谁最心不在焉;一排烧杯里,最后那个看不清的标签到底是多少。

这些问题,人类往往瞄一眼就有答案。

刚刚,Scale AI联合Elorian发布了一个专门测试这种能力的新Benchmark –Humanity’s Sixth Sense(HSS,人类第六感)。结果相当扎眼:20名人类参与者拿到93.1%,当前榜首GPT-6-astra即使开到最大推理强度,也只有53.6%;25个模型的中位数,更是只有30.9%。


HSS论文: https://labs.scale.com/papers/humanitys-sixth-sense

Scale Labs官方介绍: https://labs.scale.com/blog/introducing-humanitys-sixth-sense

HSS实时榜单: https://labs.scale.com/leaderboard/hss

数据集: https://huggingface.co/datasets/ScaleAI/HSS

这不是一道「模型会不会做题」的小考。

HSS真正追问的是:当AI走进汽车、家庭和办公室,它能不能像人一样,在事情被明确说出来之前,就读懂现场。


HSS首发榜单。25个多模态模型全部显著落后于人类。

AI有视觉

却还没有「眼力见」

HSS所说的「第六感」,不是超自然能力,而是人类每天都在使用的直觉式视觉推理。

看到一张图或几秒视频,我们不只识别「画面里有什么」,还会自动补全那些没有直接显示出来的信息:此前发生了什么、接下来可能发生什么、某个物体能否通过缝隙、谁知道什么、谁在服从谁,以及一个场景背后隐藏着怎样的规则。

这种能力快得惊人。认知科学研究显示,人类大约在150毫秒内就能完成自然场景分类,并同步提取物理动态、行为意图与社会结构。

现有视觉Benchmark却大多站在两个极端:一类考奥数、图表、学术知识等「专家级慢思考」;另一类考OCR、目标识别、检测定位等底层感知。

夹在中间、对真实世界最重要的能力,反而长期没有被单独测量:人类不用列公式、也很难说清过程,却能一眼得到答案的视觉直觉。

HSS把这块空白正式变成了分数。

522道题,专门考画面没有明说的东西

HSS包含522道开放式任务,对应288张图片和234段视频,视频总时长17.6小时。题目被划分为4个大类、11个子域:

时间与因果动态。模型要从当前画面反推过去,判断正在起作用的物理机制,或预测下一步会发生什么。例如,视频中一名女子把转辙器从右手边扳到左手边,这个动作让铁轨的道岔发生了什么变化?

物理与空间逻辑。模型要判断被遮挡的物体、质量与不可见的作用力,也要回答「放不放得下」、「换个视角会看到什么」「某个人够不够得着」。

社会理解。模型要推断人的信念、情绪、知识差和意图,也要读懂社会角色、规范与权力关系。例如,一名女子追赶公交车,跑着跑着突然放慢了脚步,原因是公交车停下来等她,她不必再冲刺了。

抽象与情境推断。模型要找出赋予场景意义的隐藏规则,包括变化带来的后果、排列中的规律,以及「在物体中看见脸」这类空想性错觉(pareidolia)。例如,一排烧杯上的标签依次是40、50、60、70,最后一个模糊的标签该是多少?答案是80。


HSS四大任务域。每道题都包含图像/视频、问题、参考答案和评分标准。

最关键的设计是:答案不能直接出现在像素里。

高清放大就能看见答案的题,淘汰;需要专业知识的题,淘汰;人类无法形成一致判断的题,同样进不了正式测试集。

标注团队一共编写了3466道候选题,经过三轮独立审核,只留下522道,录取率仅15.1%。仅第一轮就淘汰了2302道,最主要的原因,正是「答案其实已经在画面里」或「人类无法一致认可正确答案」。

评分同样严格:模型自由作答,没有选项可供排除;由LLM裁判(Claude-Opus-5)对照评分标准逐条打分,所有标准都满足才算答对。团队还用三家厂商的裁判重新评分了5个模型,排名完全一致,且未发现明显的「自家模型偏好」。

25个模型集体失灵

榜首不到人类的六成

研究团队测试了来自8家厂商的25个多模态模型。

GPT-6-astra以53.6%排名第一,其后依次是GPT-6.1-sol(46.6%)、Claude-Opus-5.5(44.6%)、Gemini-3.8-flash(41.6%)和Claude-Fable-5.1(40.8%)。其余模型全部低于40%。

而人类是93.1%。

更有意思的是「盲测对照」:当研究者把图片和视频拿掉,只让最强模型根据问题文本猜答案时,GPT-6-astra的成绩暴跌到6.6%。这说明HSS并不是在考语言套路,也不能靠常识模板蒙混过关。决定答案的证据,确实藏在视觉现场里。

视频尤其难。25个模型中有23个在视频任务上表现更差,平均下降7.3个百分点。社会理解则是最薄弱的领域:21个模型在这一项上得分最低,平均准确率只有24.4%,而其他三个领域平均为34.1%。

模型不是不会推理

而是没看懂

为了找到失败根源,研究团队对模型的8573次失败进行了逐项归因。

结论与「模型需要更强逻辑推理能力」的直觉几乎相反:94%的失败来自感知或潜在信息推断,真正的逻辑推理错误只占很小一部分。

最常见的错误,是漏掉决定答案的关键线索(21.3%);其次是认错物体、人物或角色(19.9%);再往后是误判尺寸、距离和能否容纳(12.2%),看错朝向(12.0%),以及把二维遮挡误当成三维对齐(9.1%)。


不同子域的失败高度集中在「看错」和「没有从画面中读出隐含信息」。

而且,这些错误并非随机失误。在至少5个模型同时做错的题目中,中位数高达80%的模型会因为同一个原因失败。这意味着不同厂商、不同架构的模型,可能共享着相似的视觉盲区。

它们可以生成很长的思维链,却可能从第一眼就拿错了关键事实:认错人,看反方向,搞错遮挡关系;然后再花几千个Token,把一个错误的前提推得越来越完整。25个模型平均每题要用约4000个推理Token。

提高推理强度总体有帮助,但并不稳定。在若干子域里,推理等级越高,成绩反而越低,峰值常常出现在中间档位。

当输入的世界模型是错的,「再想一会儿」并不会自动带来正确答案。

给模型配上Agent,能补课,但补不出真正的空间感

研究团队进一步把模型放进Claude Code和Codex,让Agent可以裁剪、放大、重新抽帧、搜索和反复检查视觉材料。

效果确实明显。在388题的子集上,Claude-Opus-5从30.8%升至51.3%,Claude-Fable-5.1从41.2%升至57.7%;GPT-6-astra在Codex中从54.4%升至59.3%,成为Agent设置下的最高成绩。

Agent最擅长修复「再仔细看一遍就能发现」的错误:物体与角色识别错误从181次降到147次,朝向错误从117次降到93次,尺寸与适配判断错误从137次降到105次,漏掉关键线索则从154次降到110次。


Agent能通过重新检查画面减少多类错误,但对三维深度判断几乎无能为力。

但一个数字暴露了边界:把二维重叠误判为三维对齐的错误,只从102次降到101次,几乎没有变化。

这类失败不是「图没放大」,而是模型缺少稳定的三维空间表征。Agent可以拿起放大镜,却不能凭空长出人类的空间直觉。

更值得警惕的是,Agent设置中的少数逻辑错误反而增加了。工具调用和反复思考能修复浅层观察,却也可能带来新的推理路径偏移。

所以,Agent并不是HSS问题的终点,更像一次诊断:视觉工具可以缓解「没看清」,却解决不了「没看懂」。

多模态AI的下一道墙

过去几年,多模态模型的进步常常表现为会读更多文字、会解更难的题、能处理更长的视频。

HSS提出了另一条坐标轴:一个模型是否拥有对真实世界的直觉。

这条轴对现实中的AI Agent尤其关键。家用机器人需要在孩子摔下楼梯之前,就注意到他正朝台阶挪去;自动驾驶系统需要判断车辆能否通过,而不是只识别出「前方有两辆车」;办公室助手需要读懂谁在发号施令、谁没听懂,以及一句客套话背后的真实意图。

这些能力都不能等到世界把答案写成字幕。

HSS的意义,也不只是再做一张新榜单。它把长期被笼统称作「常识」「世界模型」或「社会智能」的问题,拆成了可测量的时间、空间、社会和抽象推断能力;又进一步用失败归因告诉研究者,瓶颈究竟发生在哪里。

从结果看,下一代多模态系统可能需要的不只是更长的思维链,而是更可靠的对象与角色绑定、更稳定的三维表征、更连续的时间建模,以及从真实交互中获得的社会与物理经验。

今天的模型已经能对一张图侃侃而谈。但HSS提醒我们:会描述世界,不等于理解世界;会推理,也不等于拥有直觉。

在人类93.1%与模型53.6%之间,隔着的不是一道更难的考试题,而是机器真正走进现实世界之前,必须补上的那一眼。

参考资料:

https://labs.scale.com/papers/humanitys-sixth-sense

编辑:LRST

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
记者假扮俄军工买家,一开口要500台,中国公司开价1950万元

记者假扮俄军工买家,一开口要500台,中国公司开价1950万元

桂系007
2026-10-15 16:31:21
周迅夺釜山电影节影后,获奖感言火遍全网,郑晓龙的评价终于有人信了

周迅夺釜山电影节影后,获奖感言火遍全网,郑晓龙的评价终于有人信了

娱乐圈十三太保
2026-10-16 16:08:33
浙江男子晚上抓黄鳝,却摸上来一条毒蛇:狠狠咬住手不放!提醒:伪装性极强,严重可致残

浙江男子晚上抓黄鳝,却摸上来一条毒蛇:狠狠咬住手不放!提醒:伪装性极强,严重可致残

扬子晚报
2026-10-17 09:08:27
三司会审!余承东称正义虽迟但到,懂车帝连夜删除尊界V800测评视频!网友:当特斯拉已经能飞的时候,我们还在讨论刹车踏板

三司会审!余承东称正义虽迟但到,懂车帝连夜删除尊界V800测评视频!网友:当特斯拉已经能飞的时候,我们还在讨论刹车踏板

大白聊IT
2026-10-17 00:31:40
低开高走!杨瀚森末节全面发挥,篮板连爆两场,防守仍是问题!

低开高走!杨瀚森末节全面发挥,篮板连爆两场,防守仍是问题!

篮球资讯达人
2026-10-17 12:40:21
TVB这次尺度够大胆:陈滢脱衣戏份,身材真的正

TVB这次尺度够大胆:陈滢脱衣戏份,身材真的正

梦醉为红颜一笑
2026-10-17 02:05:37
女子和男友发生关系后累的睡着,被惊醒后发现男友另有所图,屋内还有一个陌生男,男友一口咬定自己是在嫖娼

女子和男友发生关系后累的睡着,被惊醒后发现男友另有所图,屋内还有一个陌生男,男友一口咬定自己是在嫖娼

丫头舫
2026-10-14 11:01:31
不藏了!徐艺洋直播回应生子相关问题,孩子不是美国国籍,没有代孕,是她不让黄子韬公布

不藏了!徐艺洋直播回应生子相关问题,孩子不是美国国籍,没有代孕,是她不让黄子韬公布

叨唠
2026-10-16 21:08:13
鼓励大量制造、传播恐怖屠杀画面——以色列公布的辛瓦尔的信件显示

鼓励大量制造、传播恐怖屠杀画面——以色列公布的辛瓦尔的信件显示

老王说正义
2026-10-17 00:48:19
庾澄庆直言绝不和伊能静一家三口同框,却盼儿子恩利登台演唱会

庾澄庆直言绝不和伊能静一家三口同框,却盼儿子恩利登台演唱会

观鱼听雨
2026-10-16 20:45:47
雷霆官方声明:马拉已打完三年NCAA 征战NBA无需萨拉戈萨放行

雷霆官方声明:马拉已打完三年NCAA 征战NBA无需萨拉戈萨放行

罗说NBA
2026-10-17 06:31:04
伊朗搞到一架737,竟然是原来南航客机!

伊朗搞到一架737,竟然是原来南航客机!

窗帘拉开
2026-10-16 19:50:03
深度长文:爱因斯坦输了!这个实验动摇了我们理解世界的底层直觉!

深度长文:爱因斯坦输了!这个实验动摇了我们理解世界的底层直觉!

宇宙时空
2026-10-15 16:37:10
55岁瞿颖合影费德勒!遭调侃:早生40年就没李娜了 郑钦文得叫姐

55岁瞿颖合影费德勒!遭调侃:早生40年就没李娜了 郑钦文得叫姐

念洲
2026-10-17 10:54:48
国务院任免国家工作人员

国务院任免国家工作人员

新华社
2026-10-16 19:32:03
中央亮重拳!这些问题不严查处的,直接追究地方领导责任!

中央亮重拳!这些问题不严查处的,直接追究地方领导责任!

职场资深秘书
2026-10-17 12:28:08
AI初创公司Apate用智能体伪装受害者接触电诈分子以收集情报

AI初创公司Apate用智能体伪装受害者接触电诈分子以收集情报

DoNews
2026-10-16 13:26:08
冯远征感叹:“我招不到一米五几,一米六几的女演员,都一米七几了”

冯远征感叹:“我招不到一米五几,一米六几的女演员,都一米七几了”

韩小娱
2026-10-17 07:40:50
特斯拉“飞车”技术引发追捧,一篇长文泼冷水!三方面直指要害,“埃隆花钱的地方太多,要想办法回回血”

特斯拉“飞车”技术引发追捧,一篇长文泼冷水!三方面直指要害,“埃隆花钱的地方太多,要想办法回回血”

火山詩话
2026-10-17 06:43:37
39岁瓦尔迪激情滑跪!对着看台张开双臂:连续20年破门 英冠5场1球

39岁瓦尔迪激情滑跪!对着看台张开双臂:连续20年破门 英冠5场1球

风过乡
2026-10-17 07:16:57
2026-10-17 13:31:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16447文章数 67161关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

男生在校内坠亡家长索赔170万:从天台爬回公寓出意外

头条要闻

男生在校内坠亡家长索赔170万:从天台爬回公寓出意外

体育要闻

从CBA揭幕战开始 郭士强又该忙碌起来了

娱乐要闻

黄子韬儿子国籍争议,遭知名演员点名

财经要闻

新一轮大跌源头,找到了!

汽车要闻

特斯拉会飞?全新Roadster亮相

态度原创

旅游
房产
游戏
公开课
军事航空

旅游要闻

重阳开启银发游黄金季!错峰慢游,康养旅居火了

房产要闻

利好密集落地+现房好房断档,广州楼市买入窗口,正在倒计时!

《GTA6》首支预告片和发售预告片对比 被质疑画面缩水

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

“星盾”限速事件加剧美乌裂痕

无障碍浏览 进入关怀版