网易首页 > 网易号 > 正文 申请入驻

人类93.1%,最强模型53.6%:AI的"第六感"考砸了

0
分享至

人类瞄一眼就能答对的题,25个多模态模型集体失灵。Scale AI联合Elorian发布的新基准Humanity's Sixth Sense(HSS,人类第六感),把这块长期没人单独测量的能力变成了分数。


结果很扎眼:20名人类参与者拿到93.1%,榜首GPT-6-astra即使开到最大推理强度,也只有53.6%;25个模型的中位数更是只有30.9%。首发榜单上,25个多模态模型全部显著落后于人类。

HSS追问的不是"模型会不会做题",而是当AI走进汽车、家庭和办公室,它能不能像人一样,在事情被明确说出来之前,就读懂现场。追公交的女人为什么突然慢下来、两辆车之间还能不能再塞进一辆、会议室里谁最心不在焉——这些问题的答案,都不在像素里。

522道题,答案不能直接出现在画面里

HSS包含522道开放式任务,对应288张图片和234段视频,视频总时长17.6小时,划分为4个大类、11个子域:时间与因果动态、物理与空间逻辑、社会理解、抽象与情境推断。

最关键的设计是:答案不能直接出现在像素里。高清放大就能看见答案的题淘汰,需要专业知识的题淘汰,人类无法形成一致判断的题同样淘汰。标注团队编写了3466道候选题,经过三轮独立审核只留下522道,录取率仅15.1%;仅第一轮就淘汰2302道,主因正是"答案其实已经在画面里"或"人类无法一致认可正确答案"。

评分同样严格:模型自由作答,没有选项可排除,由LLM裁判对照评分标准逐条打分,所有标准都满足才算答对。

盲测暴跌到6.6%,视频是重灾区

榜单前五依次是GPT-6-astra(53.6%)、GPT-6.1-sol(46.6%)、Claude-Opus-5.5(44.6%)、Gemini-3.8-flash(41.6%)和Claude-Fable-5.1(40.8%),其余模型全部低于40%。

盲测对照更能说明问题:把图片和视频拿掉,只让最强模型根据问题文本猜答案,GPT-6-astra的成绩暴跌到6.6%。HSS不是在考语言套路,决定答案的证据确实藏在视觉现场里。

视频尤其难。25个模型中有23个在视频任务上表现更差,平均下降7.3个百分点。社会理解是最薄弱的领域:21个模型在这一项得分最低,平均准确率只有24.4%,而其他三个领域平均为34.1%。

94%的失败,是没看懂而不是不会推

研究团队对模型的8573次失败逐项归因,结论与"模型需要更强逻辑推理"的直觉几乎相反:94%的失败来自感知或潜在信息推断,真正的逻辑推理错误只占很小一部分。

最常见的错误是漏掉决定答案的关键线索(21.3%),其次是认错物体、人物或角色(19.9%),再往后是误判尺寸、距离和能否容纳(12.2%)、看错朝向(12.0%)、把二维遮挡误当成三维对齐(9.1%)。

这些错误并非随机。在至少5个模型同时做错的题目中,中位数高达80%的模型会因为同一个原因失败——不同厂商、不同架构的模型,可能共享着相似的视觉盲区。它们能生成很长的思维链,却可能从第一眼就拿错了关键事实,再花几千个Token把错误前提推得越来越完整。25个模型平均每题要用约4000个推理Token。

提高推理强度总体有帮助,但并不稳定。在若干子域里,推理等级越高成绩反而越低,峰值常出现在中间档位。

Agent能补课,补不出空间感

研究团队把模型放进Claude Code和Codex,让Agent可以裁剪、放大、重新抽帧、搜索和反复检查视觉材料。效果确实明显:在388题的子集上,Claude-Opus-5从30.8%升至51.3%,Claude-Fable-5.1从41.2%升至57.7%;GPT-6-astra在Codex中从54.4%升至59.3%,成为Agent设置下的最高成绩。

Agent最擅长修复"再仔细看一遍就能发现"的错误:物体与角色识别错误从181次降到147次,朝向错误从117次降到93次,尺寸与适配判断错误从137次降到105次,漏掉关键线索从154次降到110次。

但一个数字暴露了边界:把二维重叠误判为三维对齐的错误,只从102次降到101次,几乎没有变化。这类失败不是"图没放大",而是模型缺少稳定的三维空间表征。Agent可以拿起放大镜,却不能凭空长出人类的空间直觉。更值得警惕的是,Agent设置中的少数逻辑错误反而增加了。

在人类93.1%与模型53.6%之间,隔着的不是一道更难的考试题。会描述世界,不等于理解世界;会推理,也不等于拥有直觉。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
申花赢球 中超四队:谢谢!

申花赢球 中超四队:谢谢!

五星体育
2026-10-18 20:54:05
红果漫剧播放霸屏!1.7亿播放量强势登顶,你追的番在榜单上吗?

红果漫剧播放霸屏!1.7亿播放量强势登顶,你追的番在榜单上吗?

坠入二次元的海洋
2026-10-19 12:18:16
没有这种食物,你的肌肉将消失!医生:55岁后恢复肌力的9种食物

没有这种食物,你的肌肉将消失!医生:55岁后恢复肌力的9种食物

健康之光
2026-10-19 12:25:17
弱冷空气将于明晚影响广东!台风“蔷琵”暂不影响我国海区

弱冷空气将于明晚影响广东!台风“蔷琵”暂不影响我国海区

南方都市报
2026-10-19 10:35:12
随着广东惜败、北京绝杀,CBA又乱了!宏远赛后正式上诉,北京钱花值了

随着广东惜败、北京绝杀,CBA又乱了!宏远赛后正式上诉,北京钱花值了

多特体育说
2026-10-18 22:52:58
同样是办大学,别人靠学术,我们却靠给留学生发钱,这正常吗?

同样是办大学,别人靠学术,我们却靠给留学生发钱,这正常吗?

律法刑道
2026-10-19 11:44:21
汪小菲与两个截然不同女人结婚,各自抱着孩子合照,看着有点感慨

汪小菲与两个截然不同女人结婚,各自抱着孩子合照,看着有点感慨

大眼妹妹
2026-10-16 17:01:49
伯恩茅斯拿下联赛首胜,本赛季英超只剩热刺尚未赢球

伯恩茅斯拿下联赛首胜,本赛季英超只剩热刺尚未赢球

懂球帝
2026-10-18 23:49:04
同学聚会一顿吃掉 46888 元!组织者提出AA被围攻,18人集体起诉

同学聚会一顿吃掉 46888 元!组织者提出AA被围攻,18人集体起诉

四海神君
2026-10-09 19:00:10
我国著名主持人赴瑞士安乐死,儿子讲述其死前惨状:我非常后悔

我国著名主持人赴瑞士安乐死,儿子讲述其死前惨状:我非常后悔

小兔子的快乐
2026-10-12 11:30:52
2027年将会是中华人民共和国全党、全军、全国各族人民重要的一年

2027年将会是中华人民共和国全党、全军、全国各族人民重要的一年

铁锤侃侃而谈
2026-09-12 00:54:59
中国太聪明了:曾趁着俄罗斯武器滞销,一口气就订购20架大飞机

中国太聪明了:曾趁着俄罗斯武器滞销,一口气就订购20架大飞机

老头的传奇色彩
2026-10-18 23:50:18
53岁女星自曝参加汤姆·克鲁斯婚礼:想抱一下婴儿,全场死盯我

53岁女星自曝参加汤姆·克鲁斯婚礼:想抱一下婴儿,全场死盯我

热搜摘要官
2026-10-18 09:08:03
曝吴谨言疑似怀二胎!穿背带裤小腹突出,与洪尧街头拥抱感情稳定

曝吴谨言疑似怀二胎!穿背带裤小腹突出,与洪尧街头拥抱感情稳定

娱妮啵啵啊
2026-10-19 13:14:59
《大长今》女主李英爱携75岁老公亮相,富豪老公身家约2万亿韩元

《大长今》女主李英爱携75岁老公亮相,富豪老公身家约2万亿韩元

老牛体育解说
2026-10-17 17:22:11
达成了!中国库里首秀!加盟全美第1高中名校

达成了!中国库里首秀!加盟全美第1高中名校

篮球实战宝典
2026-10-18 14:47:19
iPhone Duo仅支持eSIM被劝退 博主:出国就得删掉国内号码

iPhone Duo仅支持eSIM被劝退 博主:出国就得删掉国内号码

快科技
2026-10-19 09:42:07
“100元牵手拥抱,300元起可身体接触”,记者暗访“搭子”地下服

“100元牵手拥抱,300元起可身体接触”,记者暗访“搭子”地下服

涵豆说娱
2026-10-13 07:47:12
定调了!中央党报突然强力站台楼市,房价又要起飞了?

定调了!中央党报突然强力站台楼市,房价又要起飞了?

专业聊房君
2026-10-16 19:27:38
深圳 APEC 峰会临近,日本首相高市表态,中国是重要邻国

深圳 APEC 峰会临近,日本首相高市表态,中国是重要邻国

谛听骨语本尊
2026-10-19 13:10:19
2026-10-19 14:07:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
198文章数 98关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

三季度亏了521万 “浙江早餐大王”关闭132家店

头条要闻

三季度亏了521万 “浙江早餐大王”关闭132家店

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

演员许君聪近况曝光 婚恋成谜让人唏嘘

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

艺术
家居
房产
本地
公开课

艺术要闻

缅怀 | 著名油画家 宋惠民先生逝世,享年89岁

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

最新房价:海口,三亚齐跌!

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版