网易首页 > 网易号 > 正文 申请入驻

谷歌Meta被锤刷榜!Gemini暴跌70分,Top 2秒变倒数第三

0
分享至


新智元报道


跑分这事儿,最近有点不太对劲。

9月8日,分析机构SemiAnalysis连甩五条推文,直接点名谷歌和Meta两家万亿巨头——

Gemini 3.8 Flash和Muse Spark 1.3是「刷榜痕迹最明显的两个模型」。


证据,非常清晰。

在测Agent干活能力的Terminal-Bench 2.1榜单上,Gemini 3.8 Flash考了89.4分,在182个模型里高居第2,把GPT-6 Astra都压在了身下。

结果换到8月29日刚上线的Terminal-Bench 4.0,同一个模型只拿到19.1分,在14个测试对象里直接掉到第12,成绩当场打了个二折。

同一时间,GPT-6 Astra从88.4掉到57.7,好歹算个六五折。


仅仅27分钟后,Meta首席AI官Alexandr Wang亲自杀到评论区,开口直接甩出六个字,这是个愚蠢的论点。

他认为GPT-5.6 Sol在2.1上是88.8,在4.0上掉到了37.3,落差更大但没人说Sol在刷榜。

同时他还强调,Meta从没说过Muse Spark 1.3能跟Astra或Fable 5.1一样强,只是它的性价比显然更高。


换张卷子,成绩直接脚踝斩

简单介绍一下,Terminal-Bench测的是Agent真实干活的能力。

方法是丢给模型一个终端和一个模糊目标,剩下的全让它自己看着办。然后,系统得自行规划路径、调工具、写脚本,报错了还得自己去改。

在已经被业界刷了大半年的2.1版本上,这俩的成绩确实好看。

Gemini 3.8 Flash拿下89.4分排在第2,Muse Spark 1.3以88.8分排在第4,紧随其后的是88.4分的GPT-6 Astra和85.02分的Claude Fable 5.1。


好家伙,一个Flash级的便宜模型,一个主打性价比的Meta新作,双双把两家顶级实验室的旗舰按在地上摩擦。

然后,4.0版本来了。

新卷子一共66道题,不仅砍掉了8道已经被「刷穿」的旧题,大修了19道,还统统加上8小时的超时限制。

防作弊机制同样上了极高强度。

主办方不仅设了35条评分细则,还加了一轮专门的「对抗性作弊试验」,故意让Agent自己去试着钻奖励机制的空子,只要钻得通的题就会被直接毙掉。

新榜一出,画风突变。


Claude Mythos 5.1(max)拿到60.9分稳住阵脚,GPT-6 Astra和Claude Fable 5.1分别以57.7分和55.8分紧随其后,再往下是52.3分的Claude Opus 5。上一代的GPT-5.6 Sol和Terra分别拿到37.3分和23.6分。

相比之下,Gemini 3.8 Flash直接暴跌到19.1分。而按SemiAnalysis给出的图表,Muse Spark 1.3的成绩是33.3分。

总结一下就是。

旧榜上,Gemini 3.8 Flash还能压着GPT-6 Astra打;新榜上,它的分连人家的三分之一都不到,甚至被上一代的GPT-5.6 Terra甩在了后面。

不用抄答案,买套「密卷」就行

吵架归吵架,SemiAnalysis第二条推的点名才是真正的行业内幕。

在他们看来,Terminal Bench 2.1的任务是完全公开的,Meta和谷歌绝对不会傻到直接拿原题去训练,但他们绝对会去买数据,专门买那些被设计得无限贴近TB 2.1题型的训练数据。最后的效果其实跟作弊没差。

而这,就是2026年刷榜的高阶玩法。


以前的「污染」套路很糙,直接把原题混进预训练语料让模型死记硬背。

这种事一查一个准,洗一遍数据成绩就得现原形。

业界在这上面栽过不少跟头,比如HumanEval近四成样本被污染,GSM8K去污染后掉13分。最狠的是SWE-bench,换套私有代码库重测,分数直接腰斩。

所以现在大厂不碰原题了,大家改买「长得像考题的模拟卷」。也就是提供给模型试错并给奖励的封闭任务系统。

目前,这已经是一门明码标价的成熟生意。

  • 单个训练任务售价200到2000美元,复杂的软件工程任务甚至能开到2万。

  • 要是想克隆一个网站做成UI训练场,大约需要2万美元。

  • 如果要求复刻一个Slack量级的产品,那就是30万美元起步。

  • 遇到要求独家买断的客户,价格还能再翻4到5倍。

根据Epoch AI的调研,Anthropic内部讨论过每年在这上面砸10亿美元。单季合同动辄六七位数,有研究员透露均价在30万到50万美元一季。

供给侧至少有35家公司在做这门生意,绝大多数是20人以下的初创团队。老牌数据巨头也全在转型,Scale AI在被Meta入股前营收就超14亿,Surge的ARR也逼近10亿。

现在的局面非常魔幻。

一边是完全公开的榜单题库,另一边则是成熟的卖题产业链。想让模型在某个榜单上考高分,真不用费劲作弊,直接掏钱下单就行。

既当卖题机构,又当监考老师

随后,SemiAnalysis直接点名了一家叫Datacurve的公司。

在专测长周期编程的DeepSWE 1.1榜单上,Muse Spark 1.3(max)以75.4分拿下第一,GPT-6 Astra和Claude Opus 5紧随其后,Gemini 3.8 Flash拿到73.8分排在第四。

被指控刷榜的两位,一个第一,一个第四。

想必,你已经发现了这背后的猫腻。

这个榜是Datacurve办的,而Datacurve赚钱的门路,恰好是向前沿实验室出售「专家级编码数据和强化学习环境」。

DeepSWE不仅是Datacurve自家的基准,跑分用的还是它自己运营的评测环境。

既当卖题的辅导机构,又当出卷的监考老师,可以说是彻底坐实了。


榜单的保质期,所剩无几

最后,SemiAnalysis顺势给整个行业的公开评测下了一道判词。

他们觉得这说到底就是所有优质公开基准的宿命。TB 4.0也不例外,它现在看着还准,仅仅是因为它才发布了两周。

只要它的题目还是公开的,用不了多久就会被所有标榜「前沿」的实验室盘出包浆。


SemiAnalysis最终给出的解药非常直接,那就是多做高质量的私有基准。

方向是对的,但代价同样惨痛。

一旦评测全部私有化,公开榜单就会彻底沦为各家的营销通稿。

真正有区分度的真实成绩,只会在实验室和私有评测机构之间暗箱流动。

大厂当然乐见其成,毕竟闭卷考试谁也没法提前背题。

但对于广大开发者来说,那把用来公平丈量所有模型的公共尺子,恐怕再也找不回来了。

参考资料:

https://x.com/SemiAnalysis_/status/2097112791471522292

编辑:摩西

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
胡塞武装终于见识到了什么叫真正的“收网”。

胡塞武装终于见识到了什么叫真正的“收网”。

回京历史梦
2026-09-10 17:53:27
泰国高僧贪腐被捕,和女助理在法堂淫乱,一顿饭要十个菜

泰国高僧贪腐被捕,和女助理在法堂淫乱,一顿饭要十个菜

韬闻
2026-09-12 13:17:44
《交锋》金丽娜做梦都不想到,林看山看上的不是她,而是她素未谋面的姑姑和姑父

《交锋》金丽娜做梦都不想到,林看山看上的不是她,而是她素未谋面的姑姑和姑父

小七追剧站
2026-09-11 17:22:38
这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

这很科学:89%的人幻想过同时和多人发生性行为,算精神出轨吗?

宇宙时空
2026-05-26 18:20:10
对肺非常好的4种蔬菜,白露后多吃,润肺排毒,营养实惠,正当时

对肺非常好的4种蔬菜,白露后多吃,润肺排毒,营养实惠,正当时

高中医健康说
2026-09-12 14:15:03
当年沙俄抢走我国海参崴,承诺1995年归还,为何这一承诺至今仍未兑现?

当年沙俄抢走我国海参崴,承诺1995年归还,为何这一承诺至今仍未兑现?

品点历史
2026-09-11 07:25:27
统一台湾后需多少驻军?香港人口753万,驻军约6000人,澳门人口68万,驻军不足千人,台湾面积是香港的32倍,保守估计,台湾驻军需6-8万人

统一台湾后需多少驻军?香港人口753万,驻军约6000人,澳门人口68万,驻军不足千人,台湾面积是香港的32倍,保守估计,台湾驻军需6-8万人

扶苏聊历史
2026-09-10 15:51:48
2027年1月正式生效!农村种地迎来大变,每一户农民都要读懂

2027年1月正式生效!农村种地迎来大变,每一户农民都要读懂

爱下厨的阿椅
2026-09-11 06:17:41
交锋:直到马憩车祸重伤,才知要他命的是当年生死与共的谢逢时

交锋:直到马憩车祸重伤,才知要他命的是当年生死与共的谢逢时

乡野小珥
2026-09-12 11:44:14
9月12日,人社部与财政部正式公布关于2026年调整退休人员基本养老金的通知文件了吗?

9月12日,人社部与财政部正式公布关于2026年调整退休人员基本养老金的通知文件了吗?

扶苏聊历史
2026-09-12 14:41:28
遭183次水刑、裸体拘押,“9·11”案主犯还没判

遭183次水刑、裸体拘押,“9·11”案主犯还没判

中国新闻周刊
2026-09-11 13:48:59
为中国辩经的西方大儒,9月激增233% !

为中国辩经的西方大儒,9月激增233% !

环球策论
2026-09-11 13:09:19
王思雨为何单身不将就?择偶标准曝光,清醒独立令人敬佩

王思雨为何单身不将就?择偶标准曝光,清醒独立令人敬佩

体育见习官
2026-09-12 15:18:16
同学聚会问我退休金,我故意说2300元,没想到,第二天接到了25个电话……

同学聚会问我退休金,我故意说2300元,没想到,第二天接到了25个电话……

品读时刻
2026-09-11 09:04:29
77年,北京市公安局长因大肆迫害开国元勋被捕,狂言:这辈子值了!

77年,北京市公安局长因大肆迫害开国元勋被捕,狂言:这辈子值了!

舆图看世界
2026-09-11 08:10:03
火化工作人员说出大实话:人死后,骨灰根本不需要保存!

火化工作人员说出大实话:人死后,骨灰根本不需要保存!

阿甘天天传
2026-09-04 11:54:49
小米18 Fold刚官宣首发长鑫LPDDR6,拆机却发现是SK海力士:到底怎么回事?

小米18 Fold刚官宣首发长鑫LPDDR6,拆机却发现是SK海力士:到底怎么回事?

小8说科技
2026-09-10 00:02:51
最高院:女方同意性行为但中途或事后撤回,男方仍可能构成强奸!

最高院:女方同意性行为但中途或事后撤回,男方仍可能构成强奸!

周军律师聊案子
2026-09-11 11:47:38
燃气公司上门安检,根本不是查漏气!真正目的其实是这三件事

燃气公司上门安检,根本不是查漏气!真正目的其实是这三件事

阿离家居
2026-08-31 03:09:49
52:0!秘鲁日裔总统宣布加入美同盟,国会要求必须给个解释

52:0!秘鲁日裔总统宣布加入美同盟,国会要求必须给个解释

温读史
2026-09-12 15:40:57
2026-09-12 16:36:50
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16166文章数 67062关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

五旬夫妻村口遭醉酒公职人员驾车撞击身亡 被认定次责

头条要闻

五旬夫妻村口遭醉酒公职人员驾车撞击身亡 被认定次责

体育要闻

老鹰真正的底气来自于什么?

娱乐要闻

港媒曝钟丽淇疑患渐冻症,本人发文

财经要闻

继房子茅台后 中产的第3个"神话"破灭了

汽车要闻

全新配色和新样式轮毂 乐道L80星光设计套装限时惊喜价10080元

态度原创

教育
时尚
手机
健康
军事航空

教育要闻

太难了吧,是题目错了吗?

专栏|一位“皮笑肉不笑”初学者的自述

手机要闻

vivo首发「百度地图双端同步显示」功能

手脚发麻口齿不清?也可能是中风!

军事要闻

胡塞武装:9天攻占5400平方公里

无障碍浏览 进入关怀版