网易首页 > 网易号 > 正文 申请入驻

从 Token-Maxxing,到 Token-Minimizing

0
分享至

最近,各家都掏出了 flash 版的口粮模型:又快又好又便宜,干啥都不心疼无论国内的 DeepSeek V4.1-Flash、GLM-5.3-Flash,抑或是海外的 Gemini 3.8 Flash,都被各家作为便宜大碗的主力模型进行推广,让那些需要做,但投入产出评估上不值得 Fable 一类模型出马的事情,变得值得落地了

这个的背后,其实有个小小的时代变化:从 Token-Maxxing,到 Token-Minimizing


Token-Maxxing

Token-Maxxing 这个词是今年上半年传开的,直白一点就是「把 Token 猛猛地烧起来」,尽可能多的并发,尽可能多地去搞;到了国内,这个词还有个变形「全民养虾」

在当时,Meta 内部一个按 Token 用量给员工排名的看板,还会授予“Token Legend”这样的称号,大抵能翻译成「词元天尊」,用来表达对“先进个人,先用 token”的激励

在当时各个大厂都在想着法地让人去用 token,毕竟虽然 Agent 并不能 100% 搞定任务,但它可以并行几十种方案去探索,即便是没搞定也能让员工更好地积累经验。都是行业的早期阶段,浪费一些计算,好过错失一些可能,万一探索出来点东西,比如省了团队半年的开发,怎么看都是赚的

但到了这里,事情也开始分叉:有些人开始 token 空烧比如写一个脚本,每天上班的时候让他的 10 个 Agent 并行去「帮我解答哥德巴赫猜想」...然后在 1 小时内消耗掉了他的所有额度,进而美美去摸鱼了,更有甚者...把公司的 token 资源代理一下,成为了中转站大佬


于是,业内开始了一轮反思:我们应该如何更有效地利用 token?我们使用 token,本质上也是在做一种智力分配,在一些值得探索的问题投入更多的智力,而不是为了证明自己很会用 AI 而去消耗

于是,我们进入了下一种思潮:Token-Minimizing,去细致地核算每一份智力的产出

Token-Minimizing

任何公司都希望大家把 AI 用起来、去完成更多的任务,但任何公司的预算都是有限的,在这里就有了 Token-Minimizing 的提出:要压低每份合格交付的总成本,对不同的任务进行不同的预算规划,去降低每个任务的总成本


注意,这里用的是「总成本」,也就是「人力+token」的总消耗;假如是为了省下一百元的 Token,而去耗掉一万块的人力,这叫煞笔



也正是趁着更多模型跨过可用门槛,我们的模型厂商也顺势推出了甜品型 flash 模型,标准大概是:

  • 智力在 Opus 4.6 以上

  • 价格在头部模型的 1/10 以内

  • 速度通常在 100 token/s 或者更快

比如 DeepSeek 的 V4.1-Flash 的价格,就只有 Opus 4.8 的 1/10;而 GLM-5.3-Flash(也就是牛来)则甚至做到了 Opus 4.8 的 1/40,斩杀了当时绝大多数的模型


于是,一个非常朴素的问题出现了:没有其他特殊要求的话,我为什么选你?一个模型不必赢过所有对手,但必须在斩杀线外找到一个位置。

因此,模型的比赛开始同时往两个方向走:

  • 继续向上,探索此前做不到的事情

  • 也努力向左,用更低成本完成已经能做到的事情

讨论于外滩大会

前几天我在外滩大会,在台上台下参与了很多场的分享,其中的部分场次也提到了「Token-Minimizing」的一些话题

百灵团队聊到阿福选模型的一个变化:过去优先使用最大、最好的模型,现在一些较小的模型也能跨过业务要求的“水位线”,成本和响应速度就开始影响选型

这个变化其实挺能说明问题:Token-Minimizing 如果只理解成“省 Token”,还是说窄了。

阿福技术负责人进捷说得很直接。用户规模起来以后,推理成本会变得非常高;而且 C 端应用还有一个特别现实的问题——用户不会一直等你。模型可能只是在 Benchmark 上慢了几秒,但放到产品里,等 5 秒用户可能就走了。

所以当小模型也能跨过业务水位线之后,问题自然就从“谁最聪明”,变成了:谁能在足够聪明的情况下,更快、更便宜、更稳定地把事情办完,真正重要的是“端到端的任务成功率”。

单轮回答得又快又便宜,但最后任务没办成,前面省下来的 Token 也没什么意义。


外滩大会上,还有另一个模型的介绍,是百灵上个月发布的金融增强模型 Ling-3.0-flash-Fin。它沿用 Ling-3.0-flash 的架构,124B 总参数、5.1B 激活参数,再通过金融语料训练、领域后训练和工具使用优化,强化信息检索、研究推理、估值建模与研报撰写。它要交付的东西,包括能追溯数据、保留公式、继续编辑的研究文件

其中有一个 Google 2026 Q2 财务模型更新的演示:模型读取财报和一份包含 7 张工作表、5,000 余个公式的 Excel,把该季度的预测值更新为实际披露值,同时处理公式切换、跨表依赖和图表,最后交回仍可编辑的工作簿

沿着这个例子,思考还可以进一步展开:越来越多的任务,会便宜到不值得人陪同虽然 Flash 能够有效降低执行成本,但假如每次都需要研究员先发现变化,再不断检查,实际上也是一种浪费。于是可以构想出未来的一种工作方式:核心任务交给检验 Harness,把无法通过检验的任务再交给工作人员

对应着放出来的,还有蚂蚁集团联合中金打造了 FinFIRST(Financial Information Retrieval, Sourcing and Traceability)。该评测基准由 50 余名金融专业人士深度参与设计,从结果、过程和证据三个层面,系统评估答案是否准确完整、研究口径与计算是否合理,以及关键数据与结论能否回溯至权威原始资料


FinFIRST 与代表性金融 Benchmark 的能力维度对比

在这个过程中,机构可以把模型接进自己的数据和工具环境,用来帮助判断问题出在哪一步,其背后思考的理念也便是 Token-Minimizing对于金融这类需要严格把关的行业,除了要在高频调用下节省 token 外,还需要有效地降低复核和返工的用时,这样才能算是真的 Token-Minimizing

毕竟,在金融这种场景里,这个成本可能比 Token 贵多了。

百灵团队聊模型边界时提到一个挺反直觉的问题:现在很多 Benchmark 会鼓励模型“尽量答”。不知道也猜一个,反正猜中了有分,不回答反而没分,反正就是很“舔狗”。

但真实世界完全不是这么回事。

百灵金融模型负责人月引举了一个金融评测里的现象:有些模型碰到不确定的问题,会一口气给出几十种口径;从 Benchmark 的角度看,它可能覆盖到了正确答案,但一个真正的研究员不可能拿着几十个互相冲突的判断去做决策。

所以在严肃场景里,百灵反而会提高对拒答的奖励——不知道的时候,宁愿告诉用户不知道。

这其实也是另一种 Token-Minimizing:

不是少说几个字,而是少制造一次错误,少让一个人花半小时帮 AI 擦屁股。


FinFIRST 候选题依次经过专家编写、独立复答、交叉验证、Rubric 审核、压力测试和一致性检查,最终保留 123 道任务

或许,站在 5 年前的视角看现在,一切都有点魔幻:人工智能在自我递归迭代,并在产生各种可被执行的需求如果再沿着百灵的思路补半句,或许是:真实世界最终会告诉模型,什么才叫“把事做成”

最后

我们甚至可以假设:即便是今天强如 Fable,也未必打得过六个月后的 Gemini Flash(虽然也,反正我是觉得旗舰的溢价里,很大一部分是时间优势

然后随着模型智能水位的不断提升,叠加到并不是所有的厂商都能够占据最头部的智能生态位,我们便会看到许多的模型以 Flash 的名义被推出(或许这些模型本就应该标记为 pro),对于所有模型都做得到的工作,其实并没必要多瞎花钱

于是,那些原本需要人做,或者 Fable 级别模型来做,以至于 ROI 很难看的事情,现在便有了规模化的可能,大抵便是:Pro 告诉我们啥事儿能交给 AI,Flash 告诉我们啥事儿值得交给 AI


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“花一千多听个响”这种玩具突然爆火,王俊凯、孙怡也纷纷入坑,隐患不容忽视

“花一千多听个响”这种玩具突然爆火,王俊凯、孙怡也纷纷入坑,隐患不容忽视

新浪财经
2026-11-06 14:32:25
谢玲玲到场支持林恬儿活动:学识善良是真正财富 女性不必依附婚姻

谢玲玲到场支持林恬儿活动:学识善良是真正财富 女性不必依附婚姻

乡野小珥
2026-11-07 19:44:00
上海59岁男子倒在站台去世,路人欲施救被工作人员制止,家属:AED仅步行约1分钟距离,起诉车站被驳回

上海59岁男子倒在站台去世,路人欲施救被工作人员制止,家属:AED仅步行约1分钟距离,起诉车站被驳回

扬子晚报
2026-11-07 14:16:31
印度首富夫人游艇回孟买,素颜满脸斑肚大如萝,穿花睡衣被围着走

印度首富夫人游艇回孟买,素颜满脸斑肚大如萝,穿花睡衣被围着走

誮惜颜a
2026-11-05 15:32:15
医生:再高的糖尿病,没有这8个症状,不必过分焦虑,照常饮食

医生:再高的糖尿病,没有这8个症状,不必过分焦虑,照常饮食

王二哥老搞笑
2026-11-07 09:13:34
厉娜风评大逆转!43岁活得像傻白甜,才懂许飞“背刺”她的原因

厉娜风评大逆转!43岁活得像傻白甜,才懂许飞“背刺”她的原因

北海史记
2026-10-30 16:12:57
从欧洲议会“演讲”,到无人共度圣诞:哈里梅根只剩制造幻象 !

从欧洲议会“演讲”,到无人共度圣诞:哈里梅根只剩制造幻象 !

情感大头说说
2026-11-07 19:24:40
一条街的生意,拴在两千本编制上:县城公务员经济是怎么撑起来的,又是怎么走到今天的

一条街的生意,拴在两千本编制上:县城公务员经济是怎么撑起来的,又是怎么走到今天的

寰球经纬所
2026-11-06 14:19:31
昆明市一栋评估价891万元的别墅降价拍卖,被人底价499万竞得

昆明市一栋评估价891万元的别墅降价拍卖,被人底价499万竞得

爱看剧的阿峰
2026-11-07 18:33:51
美股科技股大幅反弹,AI算力巨头狂飙20%,热门中概股普涨

美股科技股大幅反弹,AI算力巨头狂飙20%,热门中概股普涨

21世纪经济报道
2026-11-07 08:23:31
新疆117岁老奶奶跳舞视频引数百万网友围观,当地:她生育16个子女仅剩5人在世,丈夫30年前去世,目前全家五世同堂共93口人,最小的1岁左右

新疆117岁老奶奶跳舞视频引数百万网友围观,当地:她生育16个子女仅剩5人在世,丈夫30年前去世,目前全家五世同堂共93口人,最小的1岁左右

极目新闻
2026-11-06 18:49:31
多部门介入“母子衣衫不整”事件!

多部门介入“母子衣衫不整”事件!

新动察
2026-10-16 11:00:05
原汁原味无污染?印度环保局长当众喝恒河水,5分钟后被抬走!

原汁原味无污染?印度环保局长当众喝恒河水,5分钟后被抬走!

霁寒飘雪
2026-10-10 11:56:38
年薪12万被批不尊重应届生!张雪怒怼江西都市频道:是不是有病?

年薪12万被批不尊重应届生!张雪怒怼江西都市频道:是不是有病?

青辉
2026-11-07 15:20:09
46:67,内塔尼亚胡或下台,特朗普被打得落花流水,伊朗直接躺赢

46:67,内塔尼亚胡或下台,特朗普被打得落花流水,伊朗直接躺赢

国际法大视野
2026-11-06 17:46:04
网红小姐姐的这身打扮,还挺别致的

网红小姐姐的这身打扮,还挺别致的

美女穿搭分享
2026-10-31 16:21:31
四川女子撇下60岁父母自杀,1个月后父亲不顾反对给女儿开棺

四川女子撇下60岁父母自杀,1个月后父亲不顾反对给女儿开棺

罪案洞察者
2025-03-31 10:36:32
国务院国资委:央企境外资产近10万亿元,全球机构项目超1.7万个

国务院国资委:央企境外资产近10万亿元,全球机构项目超1.7万个

中国青年报
2026-11-06 22:48:28
全新亚洲龙上市13.38万起,再次定义豪华新标准

全新亚洲龙上市13.38万起,再次定义豪华新标准

12缸汽车
2026-11-07 21:13:24
美媒:万斯直接介入 美伊谈判“提级”

美媒:万斯直接介入 美伊谈判“提级”

新华社
2026-11-07 13:23:46
2026-11-07 22:16:49
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
623文章数 59关注度
往期回顾 全部

科技要闻

老去的大佬、当红的新贵,握着一张AI考卷

头条要闻

专家:美国民主党若敢触碰北京红线 中方必将坚决反制

头条要闻

专家:美国民主党若敢触碰北京红线 中方必将坚决反制

体育要闻

轰35+5迎生涯之夜 米切尔成雷霆第二巨

娱乐要闻

赵雅芝杭州吃饭落泪,赡养压力引热议

财经要闻

“科技小登”打回原形

汽车要闻

503.17km/h!中国超跑这次真把天花板捅穿了!

态度原创

艺术
数码
本地
房产
公开课

艺术要闻

盖里最后一个私宅出售,它值7.7亿元?

数码要闻

七彩虹E14轻薄本上架:酷睿i5-13420H、14英寸2.2K屏,16GB+1TB到手3654元

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

最后十多套 这个海甸岛一线江景盘即将收官 有漏可捡!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版