网易首页 > 网易号 > 正文 申请入驻

人类93.1%,最强模型53.6%:AI的"第六感"考砸了

0
分享至

人类瞄一眼就能答对的题,25个多模态模型集体失灵。Scale AI联合Elorian发布的新基准Humanity's Sixth Sense(HSS,人类第六感),把这块长期没人单独测量的能力变成了分数。


结果很扎眼:20名人类参与者拿到93.1%,榜首GPT-6-astra即使开到最大推理强度,也只有53.6%;25个模型的中位数更是只有30.9%。首发榜单上,25个多模态模型全部显著落后于人类。

HSS追问的不是"模型会不会做题",而是当AI走进汽车、家庭和办公室,它能不能像人一样,在事情被明确说出来之前,就读懂现场。追公交的女人为什么突然慢下来、两辆车之间还能不能再塞进一辆、会议室里谁最心不在焉——这些问题的答案,都不在像素里。

522道题,答案不能直接出现在画面里

HSS包含522道开放式任务,对应288张图片和234段视频,视频总时长17.6小时,划分为4个大类、11个子域:时间与因果动态、物理与空间逻辑、社会理解、抽象与情境推断。

最关键的设计是:答案不能直接出现在像素里。高清放大就能看见答案的题淘汰,需要专业知识的题淘汰,人类无法形成一致判断的题同样淘汰。标注团队编写了3466道候选题,经过三轮独立审核只留下522道,录取率仅15.1%;仅第一轮就淘汰2302道,主因正是"答案其实已经在画面里"或"人类无法一致认可正确答案"。

评分同样严格:模型自由作答,没有选项可排除,由LLM裁判对照评分标准逐条打分,所有标准都满足才算答对。

盲测暴跌到6.6%,视频是重灾区

榜单前五依次是GPT-6-astra(53.6%)、GPT-6.1-sol(46.6%)、Claude-Opus-5.5(44.6%)、Gemini-3.8-flash(41.6%)和Claude-Fable-5.1(40.8%),其余模型全部低于40%。

盲测对照更能说明问题:把图片和视频拿掉,只让最强模型根据问题文本猜答案,GPT-6-astra的成绩暴跌到6.6%。HSS不是在考语言套路,决定答案的证据确实藏在视觉现场里。

视频尤其难。25个模型中有23个在视频任务上表现更差,平均下降7.3个百分点。社会理解是最薄弱的领域:21个模型在这一项得分最低,平均准确率只有24.4%,而其他三个领域平均为34.1%。

94%的失败,是没看懂而不是不会推

研究团队对模型的8573次失败逐项归因,结论与"模型需要更强逻辑推理"的直觉几乎相反:94%的失败来自感知或潜在信息推断,真正的逻辑推理错误只占很小一部分。

最常见的错误是漏掉决定答案的关键线索(21.3%),其次是认错物体、人物或角色(19.9%),再往后是误判尺寸、距离和能否容纳(12.2%)、看错朝向(12.0%)、把二维遮挡误当成三维对齐(9.1%)。

这些错误并非随机。在至少5个模型同时做错的题目中,中位数高达80%的模型会因为同一个原因失败——不同厂商、不同架构的模型,可能共享着相似的视觉盲区。它们能生成很长的思维链,却可能从第一眼就拿错了关键事实,再花几千个Token把错误前提推得越来越完整。25个模型平均每题要用约4000个推理Token。

提高推理强度总体有帮助,但并不稳定。在若干子域里,推理等级越高成绩反而越低,峰值常出现在中间档位。

Agent能补课,补不出空间感

研究团队把模型放进Claude Code和Codex,让Agent可以裁剪、放大、重新抽帧、搜索和反复检查视觉材料。效果确实明显:在388题的子集上,Claude-Opus-5从30.8%升至51.3%,Claude-Fable-5.1从41.2%升至57.7%;GPT-6-astra在Codex中从54.4%升至59.3%,成为Agent设置下的最高成绩。

Agent最擅长修复"再仔细看一遍就能发现"的错误:物体与角色识别错误从181次降到147次,朝向错误从117次降到93次,尺寸与适配判断错误从137次降到105次,漏掉关键线索从154次降到110次。

但一个数字暴露了边界:把二维重叠误判为三维对齐的错误,只从102次降到101次,几乎没有变化。这类失败不是"图没放大",而是模型缺少稳定的三维空间表征。Agent可以拿起放大镜,却不能凭空长出人类的空间直觉。更值得警惕的是,Agent设置中的少数逻辑错误反而增加了。

在人类93.1%与模型53.6%之间,隔着的不是一道更难的考试题。会描述世界,不等于理解世界;会推理,也不等于拥有直觉。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
翁帆回杨振宁合肥老家,见证“遗产”落地,原来亡夫留了一手好牌

翁帆回杨振宁合肥老家,见证“遗产”落地,原来亡夫留了一手好牌

小鋭有话说
2026-10-12 12:44:15
驻菲使馆果断回应:想要驱逐大使,那就去做吧,否则别再虚张声势

驻菲使馆果断回应:想要驱逐大使,那就去做吧,否则别再虚张声势

光电科技君
2026-10-18 10:41:57
红得快,凉得也快的三位明星,以前是男神女神,现在“无人问津”

红得快,凉得也快的三位明星,以前是男神女神,现在“无人问津”

橙星文娱
2026-10-19 14:18:02
这就是赤裸裸的现实!工商银行已经到了最危险的时候?

这就是赤裸裸的现实!工商银行已经到了最危险的时候?

财经保探长
2026-08-23 21:43:55
扮猪吃虎?隐忍四个月,委代总统撕下面具,率几十万大军硬刚美国

扮猪吃虎?隐忍四个月,委代总统撕下面具,率几十万大军硬刚美国

好贤观史记
2026-04-23 16:53:57
“我不会让孩子考北大”,本硕女高材生直言不讳:毕业就被打回原形

“我不会让孩子考北大”,本硕女高材生直言不讳:毕业就被打回原形

蝴蝶花雨话教育
2026-10-18 00:05:21
申花官方:朱辰杰右侧上颌骨骨折,预计恢复期为4-6周

申花官方:朱辰杰右侧上颌骨骨折,预计恢复期为4-6周

懂球帝
2026-10-19 11:38:42
大马博主在TikTok上嘲笑中国留学生水准很差!英语名字都念不对,这是起码的尊重

大马博主在TikTok上嘲笑中国留学生水准很差!英语名字都念不对,这是起码的尊重

小徐讲八卦
2026-10-19 08:46:47
摇滚歌手痴迷视后中花的海鲜味!

摇滚歌手痴迷视后中花的海鲜味!

八卦疯叔
2026-10-17 10:13:08
浙江、江苏负债率竟超100%,广东只有51%,谁在风险区?谁在安全港?谁的GDP含金量最高?

浙江、江苏负债率竟超100%,广东只有51%,谁在风险区?谁在安全港?谁的GDP含金量最高?

起点财经
2026-10-18 17:04:38
穆帅率皇马4:1大胜塞维利亚,穆帅暂时续命;传闻皇马主席已找好穆帅替代者

穆帅率皇马4:1大胜塞维利亚,穆帅暂时续命;传闻皇马主席已找好穆帅替代者

福酱的小时光
2026-10-19 06:11:15
北大才女蒙曼50岁至今未婚,朱迅问她:“你最想嫁给谁?”谁承想,她脱口而出说的一个名字,却让全场观众哄堂大笑!

北大才女蒙曼50岁至今未婚,朱迅问她:“你最想嫁给谁?”谁承想,她脱口而出说的一个名字,却让全场观众哄堂大笑!

背包旅行
2026-10-17 15:51:52
墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

雅俗共赏1
2025-09-03 14:00:28
"沫子杯"正式定档10月28日!送沫子定制可加热杯子

"沫子杯"正式定档10月28日!送沫子定制可加热杯子

游民星空
2026-10-18 17:19:32
5年1.39亿!雷霆正式续约!最快速度解体

5年1.39亿!雷霆正式续约!最快速度解体

篮球教学论坛
2026-10-19 11:52:08
龙赛罗:皇马终于踢出了一场好球,临门一脚简直就是艺术

龙赛罗:皇马终于踢出了一场好球,临门一脚简直就是艺术

懂球帝
2026-10-19 06:32:50
日本人嫌疑最大!中方紧急出动3400多人,在蒙古连守四昼夜!

日本人嫌疑最大!中方紧急出动3400多人,在蒙古连守四昼夜!

精彩一网打尽
2026-10-18 20:02:07
《嫁金钗》90%观众没看懂!陆濯昏迷翻身苏醒,根本不是阿丑冲喜显灵,那么简单

《嫁金钗》90%观众没看懂!陆濯昏迷翻身苏醒,根本不是阿丑冲喜显灵,那么简单

东方不败然多多
2026-10-19 05:48:51
欠花呗借呗注意了!蚂蚁消金36.45亿逾期债权打包转让 催收不会停

欠花呗借呗注意了!蚂蚁消金36.45亿逾期债权打包转让 催收不会停

呼呼历史论
2026-10-18 19:25:19
欧冠巴萨VS大巴黎:罗德里坐镇 西班牙双星领衔 亚马尔+奥尔莫冲锋

欧冠巴萨VS大巴黎:罗德里坐镇 西班牙双星领衔 亚马尔+奥尔莫冲锋

零度眼看球
2026-10-19 09:02:26
2026-10-19 15:07:00
算力游侠
算力游侠
游走在API与报错之间,用魔法(AI)打败魔法的非硬核玩家。
205文章数 98关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

女局长被举报包养未成年 遭"仙人跳"敲诈19万后免职

头条要闻

女局长被举报包养未成年 遭"仙人跳"敲诈19万后免职

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

演员许君聪近况曝光 婚恋成谜让人唏嘘

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

家居
数码
教育
时尚
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

数码要闻

双11游戏电视怎么选?这两款RGB-Mini LED影游旗舰值得推荐

教育要闻

收藏:山东2027高考报名表填写+注意事项!

重阳寻香:一炉香,一枚囊,她们以手传香

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版