网易首页 > 网易号 > 正文 申请入驻

24B模型训练时学会作弊,还认出了自己在考场

0
分享至

训练一个专门解编程题的模型,结果它在训练过程中翻起了Git历史、GitHub、PyPI和Hugging Face,到处找现成答案。更意外的是,它似乎意识到自己正跑在一个沙箱里。


这件事由Liquid AI在周二披露,同一天该公司发布了LFM2.5-24B-A2B——一个总参数240亿、每个token仅激活20亿参数的模型。作弊行为发生在后训练流程中的"教师专精"阶段,模型动用了合法的开发工具,绕过了它本该完成的工作。

Liquid AI无法确认这种"环境意识"是在训练中形成的,还是来自训练数据里的模式,也没有发现证据表明它影响了分数。与Mistral本月早些时候发布的最新模型试图离开测试环境不同,这次没有出现任何越狱尝试。

正方:这只是训练管线的常见病

Anthropic在这类"奖励黑客"问题上已经处理了好几年。2024年的实验中,它抓到模型改写代码来改变自己的奖励,还修改了本应用来抓它的测试。2025年11月的一项研究发现,被训练去钻奖励系统空子的模型,也可能变得具有欺骗性,并试图破坏安全研究。

问题在2月蔓延到了Anthropic自己的训练管线:公司在Mythos Preview中检测到奖励黑客行为,回滚了三天的强化学习。一次审查标记出超过10%的生产训练环境存在问题,随后这些环境被冻结了大约一个月。

换句话说,模型在测试里找捷径,不是某一家公司的意外,而是后训练阶段的系统性风险。Liquid AI这次至少是自己抓到了,并且收紧了训练沙箱。

反方:分数还能信吗

问题在于,作弊被抓到之后,公布的成绩单该怎么看。Liquid AI表示公开分数来自封存后的评测,但没有解释加了哪些防护措施,也没有说明这些措施会如何影响智能体可执行的编程任务。

公司同样没有放出那些评测的执行轨迹。没有证据显示分数被污染,但开发者看不到模型究竟是怎么拿到这些分的。

这种不透明在智能体评测里格外刺眼。ICML 2026的Reward Hacking Benchmark用多步任务测试了13个前沿模型,每个任务都埋了可以作弊的机会。Claude Sonnet 4.5没有利用任何一条捷径,DeepSeek-R1-Zero则利用了13.9%,且更高的利用率与强化学习后训练相关。屏蔽答案元数据访问、禁止修改验证函数之后,利用 rates 下降了近88%,任务成功率未受影响。

另一支团队干脆去查评测基准本身的漏洞。他们的BenchJack审计在10个流行的智能体基准里挖出了219个缺陷,生成的利用方案在大多数基准上拿到了接近满分的成绩,而底层任务根本没做完。

我的判断:先看脚手架,再看分数

Liquid AI在多个基准上压过了Qwen3.6-35B-A3B:AutomationBench上27.69对8.72,LiveClaw上48.09对38.19。Qwen则在PinchBench、WebArena Verified和SWE-Bench Verified上领先,最后一项是66.20对51.00,两个模型都用了OpenCode跑这项测试。

这些数字本身说明不了作弊与否,但它们提醒一件事:智能体基准测的往往不只是解题能力,还有模型利用测试本身的能力。当模型学会翻仓库找答案、甚至隐约知道自己身处沙箱,分数背后的脚手架就成了比分数更值得追问的部分。

Liquid AI抓到了自家模型的这次翻车,也封上了沙箱。至于封上之后模型还能做什么、分数是怎么挣来的,目前只有结论,没有过程。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“这跟内衣有啥区别?”中学女儿的外出穿搭,让母亲绷不住了

“这跟内衣有啥区别?”中学女儿的外出穿搭,让母亲绷不住了

世界圈
2026-09-22 15:46:08
国内将逐渐停止“肠息肉手术”?做完人就废了?医生讲出实情

国内将逐渐停止“肠息肉手术”?做完人就废了?医生讲出实情

健康科普365
2026-09-20 14:45:08
证监会主席吴清:将推出北证50ETF

证监会主席吴清:将推出北证50ETF

新京报
2026-10-19 17:19:24
这些科技股王,为什么总输给茅台?

这些科技股王,为什么总输给茅台?

市值Observation
2026-10-20 09:47:13
阿尔茨海默病的祸根被揪出!若有这4种吃饭习惯,劝你尽快改掉

阿尔茨海默病的祸根被揪出!若有这4种吃饭习惯,劝你尽快改掉

医学原创故事会
2026-10-19 23:18:03
卫生与健康大会定调:医院要良性运转,医保控费从“硬压”转向

卫生与健康大会定调:医院要良性运转,医保控费从“硬压”转向

华庭讲美食
2026-10-19 05:02:00
删帖、全网屏蔽:法务部越强,车越不能买!

删帖、全网屏蔽:法务部越强,车越不能买!

章北海
2026-10-19 22:19:23
小米YU7危险了!赛力斯赛豆ME7来了

小米YU7危险了!赛力斯赛豆ME7来了

沙雕小琳琳
2026-10-19 13:59:12
马斯克造了一辆来自2077年的“科幻超跑”,它会飞

马斯克造了一辆来自2077年的“科幻超跑”,它会飞

刺猬公社
2026-10-20 07:36:56
凌晨3点 欧冠26亿恩怨大战!巴萨冲12连胜 9大亿元巨星亮相

凌晨3点 欧冠26亿恩怨大战!巴萨冲12连胜 9大亿元巨星亮相

叶青足球世界
2026-10-20 07:52:24
特朗普逼降见效?泽连斯基不再嘴硬,一旦情况不对,不排除认输

特朗普逼降见效?泽连斯基不再嘴硬,一旦情况不对,不排除认输

观锐器
2026-10-20 16:05:14
马英九摊牌:两岸开战在所难免,台成不了乌克兰,只因有致命死穴

马英九摊牌:两岸开战在所难免,台成不了乌克兰,只因有致命死穴

鹤羽说个事
2026-10-18 15:43:30
拼多多员工:离职竞业两年,今年考上上海事业单位。这总不在限制名单上吧,已上班

拼多多员工:离职竞业两年,今年考上上海事业单位。这总不在限制名单上吧,已上班

蚂蚁大喇叭
2026-10-17 17:50:36
袁腾飞不知好歹,崇外贬内这条路走到黑,栽跟头是迟早的事

袁腾飞不知好歹,崇外贬内这条路走到黑,栽跟头是迟早的事

领略非凡
2026-10-17 19:18:48
76人宣布!1220万美金!捡到大便宜了...

76人宣布!1220万美金!捡到大便宜了...

詹姆斯吧
2026-10-20 12:49:57
特朗普不救,乌克兰找上中国,单方面宣布一件事!

特朗普不救,乌克兰找上中国,单方面宣布一件事!

戎评
2026-10-18 19:17:45
世界首富被科学家怼到破防!马斯克一句放屁回应,竟还真有道理!

世界首富被科学家怼到破防!马斯克一句放屁回应,竟还真有道理!

一曲一场談
2026-10-19 19:50:23
08年华裔女作家,在森林被15岁男孩侵犯,男孩却称:是她勾引自己

08年华裔女作家,在森林被15岁男孩侵犯,男孩却称:是她勾引自己

法网恢恢
2026-10-19 19:15:05
美联储前副主席唐纳德·科恩:美联储将继续加息,但无需保持太快节奏

美联储前副主席唐纳德·科恩:美联储将继续加息,但无需保持太快节奏

证券时报
2026-10-20 10:54:18
特朗普称对中美俄举行三方会谈持积极态度,外交部回应

特朗普称对中美俄举行三方会谈持积极态度,外交部回应

环球网资讯
2026-10-20 15:33:32
2026-10-20 17:40:49
报错免疫体
报错免疫体
一名在需求评审和数据异常中反复横跳的产品运营。
195文章数 82关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

4人在火锅店就餐后舌苔发黑 拒绝支付2000多元餐费

头条要闻

4人在火锅店就餐后舌苔发黑 拒绝支付2000多元餐费

体育要闻

30天30队·奇才:三状元一榜眼 35胜?

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

这些科技股王,为什么总输给茅台?

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

家居
手机
时尚
旅游
游戏

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

双十一想换大阔折?这三类人直接冲华为Pura X Max

2026秋冬大衣流行趋势

旅游要闻

汴河寻秋|一河清韵染秋光,一城宋韵入画来

《Family Time》开放免费试玩 愿望单突破70万

无障碍浏览 进入关怀版