网易首页 > 网易号 > 正文 申请入驻

从 Token-Maxxing,到 Token-Minimizing

0
分享至

最近,各家都掏出了 flash 版的口粮模型:又快又好又便宜,干啥都不心疼无论国内的 DeepSeek V4.1-Flash、GLM-5.3-Flash,抑或是海外的 Gemini 3.8 Flash,都被各家作为便宜大碗的主力模型进行推广,让那些需要做,但投入产出评估上不值得 Fable 一类模型出马的事情,变得值得落地了

这个的背后,其实有个小小的时代变化:从 Token-Maxxing,到 Token-Minimizing


Token-Maxxing

Token-Maxxing 这个词是今年上半年传开的,直白一点就是「把 Token 猛猛地烧起来」,尽可能多的并发,尽可能多地去搞;到了国内,这个词还有个变形「全民养虾」

在当时,Meta 内部一个按 Token 用量给员工排名的看板,还会授予“Token Legend”这样的称号,大抵能翻译成「词元天尊」,用来表达对“先进个人,先用 token”的激励

在当时各个大厂都在想着法地让人去用 token,毕竟虽然 Agent 并不能 100% 搞定任务,但它可以并行几十种方案去探索,即便是没搞定也能让员工更好地积累经验。都是行业的早期阶段,浪费一些计算,好过错失一些可能,万一探索出来点东西,比如省了团队半年的开发,怎么看都是赚的

但到了这里,事情也开始分叉:有些人开始 token 空烧比如写一个脚本,每天上班的时候让他的 10 个 Agent 并行去「帮我解答哥德巴赫猜想」...然后在 1 小时内消耗掉了他的所有额度,进而美美去摸鱼了,更有甚者...把公司的 token 资源代理一下,成为了中转站大佬


于是,业内开始了一轮反思:我们应该如何更有效地利用 token?我们使用 token,本质上也是在做一种智力分配,在一些值得探索的问题投入更多的智力,而不是为了证明自己很会用 AI 而去消耗

于是,我们进入了下一种思潮:Token-Minimizing,去细致地核算每一份智力的产出

Token-Minimizing

任何公司都希望大家把 AI 用起来、去完成更多的任务,但任何公司的预算都是有限的,在这里就有了 Token-Minimizing 的提出:要压低每份合格交付的总成本,对不同的任务进行不同的预算规划,去降低每个任务的总成本


注意,这里用的是「总成本」,也就是「人力+token」的总消耗;假如是为了省下一百元的 Token,而去耗掉一万块的人力,这叫煞笔



也正是趁着更多模型跨过可用门槛,我们的模型厂商也顺势推出了甜品型 flash 模型,标准大概是:

  • 智力在 Opus 4.6 以上

  • 价格在头部模型的 1/10 以内

  • 速度通常在 100 token/s 或者更快

比如 DeepSeek 的 V4.1-Flash 的价格,就只有 Opus 4.8 的 1/10;而 GLM-5.3-Flash(也就是牛来)则甚至做到了 Opus 4.8 的 1/40,斩杀了当时绝大多数的模型


于是,一个非常朴素的问题出现了:没有其他特殊要求的话,我为什么选你?一个模型不必赢过所有对手,但必须在斩杀线外找到一个位置。

因此,模型的比赛开始同时往两个方向走:

  • 继续向上,探索此前做不到的事情

  • 也努力向左,用更低成本完成已经能做到的事情

讨论于外滩大会

前几天我在外滩大会,在台上台下参与了很多场的分享,其中的部分场次也提到了「Token-Minimizing」的一些话题

百灵团队聊到阿福选模型的一个变化:过去优先使用最大、最好的模型,现在一些较小的模型也能跨过业务要求的“水位线”,成本和响应速度就开始影响选型

这个变化其实挺能说明问题:Token-Minimizing 如果只理解成“省 Token”,还是说窄了。

阿福技术负责人进捷说得很直接。用户规模起来以后,推理成本会变得非常高;而且 C 端应用还有一个特别现实的问题——用户不会一直等你。模型可能只是在 Benchmark 上慢了几秒,但放到产品里,等 5 秒用户可能就走了。

所以当小模型也能跨过业务水位线之后,问题自然就从“谁最聪明”,变成了:谁能在足够聪明的情况下,更快、更便宜、更稳定地把事情办完,真正重要的是“端到端的任务成功率”。

单轮回答得又快又便宜,但最后任务没办成,前面省下来的 Token 也没什么意义。


外滩大会上,还有另一个模型的介绍,是百灵上个月发布的金融增强模型 Ling-3.0-flash-Fin。它沿用 Ling-3.0-flash 的架构,124B 总参数、5.1B 激活参数,再通过金融语料训练、领域后训练和工具使用优化,强化信息检索、研究推理、估值建模与研报撰写。它要交付的东西,包括能追溯数据、保留公式、继续编辑的研究文件

其中有一个 Google 2026 Q2 财务模型更新的演示:模型读取财报和一份包含 7 张工作表、5,000 余个公式的 Excel,把该季度的预测值更新为实际披露值,同时处理公式切换、跨表依赖和图表,最后交回仍可编辑的工作簿

沿着这个例子,思考还可以进一步展开:越来越多的任务,会便宜到不值得人陪同虽然 Flash 能够有效降低执行成本,但假如每次都需要研究员先发现变化,再不断检查,实际上也是一种浪费。于是可以构想出未来的一种工作方式:核心任务交给检验 Harness,把无法通过检验的任务再交给工作人员

对应着放出来的,还有蚂蚁集团联合中金打造了 FinFIRST(Financial Information Retrieval, Sourcing and Traceability)。该评测基准由 50 余名金融专业人士深度参与设计,从结果、过程和证据三个层面,系统评估答案是否准确完整、研究口径与计算是否合理,以及关键数据与结论能否回溯至权威原始资料


FinFIRST 与代表性金融 Benchmark 的能力维度对比

在这个过程中,机构可以把模型接进自己的数据和工具环境,用来帮助判断问题出在哪一步,其背后思考的理念也便是 Token-Minimizing对于金融这类需要严格把关的行业,除了要在高频调用下节省 token 外,还需要有效地降低复核和返工的用时,这样才能算是真的 Token-Minimizing

毕竟,在金融这种场景里,这个成本可能比 Token 贵多了。

百灵团队聊模型边界时提到一个挺反直觉的问题:现在很多 Benchmark 会鼓励模型“尽量答”。不知道也猜一个,反正猜中了有分,不回答反而没分,反正就是很“舔狗”。

但真实世界完全不是这么回事。

百灵金融模型负责人月引举了一个金融评测里的现象:有些模型碰到不确定的问题,会一口气给出几十种口径;从 Benchmark 的角度看,它可能覆盖到了正确答案,但一个真正的研究员不可能拿着几十个互相冲突的判断去做决策。

所以在严肃场景里,百灵反而会提高对拒答的奖励——不知道的时候,宁愿告诉用户不知道。

这其实也是另一种 Token-Minimizing:

不是少说几个字,而是少制造一次错误,少让一个人花半小时帮 AI 擦屁股。


FinFIRST 候选题依次经过专家编写、独立复答、交叉验证、Rubric 审核、压力测试和一致性检查,最终保留 123 道任务

或许,站在 5 年前的视角看现在,一切都有点魔幻:人工智能在自我递归迭代,并在产生各种可被执行的需求如果再沿着百灵的思路补半句,或许是:真实世界最终会告诉模型,什么才叫“把事做成”

最后

我们甚至可以假设:即便是今天强如 Fable,也未必打得过六个月后的 Gemini Flash(虽然也,反正我是觉得旗舰的溢价里,很大一部分是时间优势

然后随着模型智能水位的不断提升,叠加到并不是所有的厂商都能够占据最头部的智能生态位,我们便会看到许多的模型以 Flash 的名义被推出(或许这些模型本就应该标记为 pro),对于所有模型都做得到的工作,其实并没必要多瞎花钱

于是,那些原本需要人做,或者 Fable 级别模型来做,以至于 ROI 很难看的事情,现在便有了规模化的可能,大抵便是:Pro 告诉我们啥事儿能交给 AI,Flash 告诉我们啥事儿值得交给 AI


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
一线高校教师非升即走,完不成任务就降职级,不合格率超22%!行政领导的考核却几乎为零,全员合格!

一线高校教师非升即走,完不成任务就降职级,不合格率超22%!行政领导的考核却几乎为零,全员合格!

学术眺望
2026-11-07 19:20:03
杨幂立冬晒吃银杏叶饺子,“惠英红想吃杨幂的饺子”登上热搜

杨幂立冬晒吃银杏叶饺子,“惠英红想吃杨幂的饺子”登上热搜

韩小娱
2026-11-07 16:28:04
聚众淫乱合法,美国更是有钱人的“天堂”了

聚众淫乱合法,美国更是有钱人的“天堂”了

侠客栈
2026-11-06 12:21:27
突然大跳水!暴跌87%,江阴人可以捡漏了

突然大跳水!暴跌87%,江阴人可以捡漏了

最江阴
2026-11-07 10:47:11
0-4林昀儒止步八强!温瑞博出局国乒男队全军覆没 梯队建设成老大难

0-4林昀儒止步八强!温瑞博出局国乒男队全军覆没 梯队建设成老大难

颜小白的篮球梦
2026-11-07 22:04:14
美媒表示:中国东风61正式服役,中国导弹越来越多,外舰根本无法靠近,西方没想到速度这么快

美媒表示:中国东风61正式服役,中国导弹越来越多,外舰根本无法靠近,西方没想到速度这么快

绝对军评
2026-11-07 12:58:01
油价调整:车主注意!11月7日柴油汽油价格表,国内油价大跌要来了

油价调整:车主注意!11月7日柴油汽油价格表,国内油价大跌要来了

有料财经
2026-11-07 11:18:58
高盛重磅报告:中国住房供应下降90%,第7轮房价上涨即将开始

高盛重磅报告:中国住房供应下降90%,第7轮房价上涨即将开始

风雨与阳光
2026-11-06 02:04:55
张不开嘴就别演正剧!《伟大的长征》里李乃文用四菜一汤把张国焘演出了欠抽的气质

张不开嘴就别演正剧!《伟大的长征》里李乃文用四菜一汤把张国焘演出了欠抽的气质

娱乐故事
2026-11-01 22:16:03
实话说:俄罗斯对中国最大的贡献,就是让整个西方彻底误判了中国

实话说:俄罗斯对中国最大的贡献,就是让整个西方彻底误判了中国

经纬戎韬
2026-11-07 04:14:36
大暴雪、大暴雨来袭!两部门重要部署

大暴雪、大暴雨来袭!两部门重要部署

环球网资讯
2026-11-07 17:15:59
普京再签署总统令,俄罗斯接管日本烟草其他多项资产;此前日本决定对俄罗斯实施追加制裁,俄方对等反制

普京再签署总统令,俄罗斯接管日本烟草其他多项资产;此前日本决定对俄罗斯实施追加制裁,俄方对等反制

扬子晚报
2026-11-07 14:44:10
财政钱都是劳动者交税!绝不应该用来供养特殊特权

财政钱都是劳动者交税!绝不应该用来供养特殊特权

小鹿姐姐情感说
2026-11-06 05:19:20
波尔津吉斯发长文向勇士道歉:我耽误了库里夺冠,选择退役来弥补

波尔津吉斯发长文向勇士道歉:我耽误了库里夺冠,选择退役来弥补

篮球小方
2026-11-07 11:24:26
横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

横店迎来三十年最为惨烈的一次断臂求生!130多座摄影棚,合计50万平方米,全部免租金向剧组开放

扶苏聊历史
2026-10-28 15:47:11
马斯克:中国太棒了,我爱中国

马斯克:中国太棒了,我爱中国

观察者网
2026-11-07 15:46:51
白俄总统卢卡申科再一次语出惊人:提议由特朗普担任联合国秘书长

白俄总统卢卡申科再一次语出惊人:提议由特朗普担任联合国秘书长

青烟小先生
2026-11-07 10:11:14
成都一中学体测现场男生做引体向上犯难,女老师上场示范连拉4个,现场“哇”声一片

成都一中学体测现场男生做引体向上犯难,女老师上场示范连拉4个,现场“哇”声一片

潇湘晨报
2026-11-07 16:57:21
全国人民代表大会常务委员会关于批准《关于成立世界人工智能合作组织的协定》的决定

全国人民代表大会常务委员会关于批准《关于成立世界人工智能合作组织的协定》的决定

金台资讯
2026-11-07 07:19:20
C罗退出第2天,葡萄牙28人名单炸了!热苏斯这话太狠了

C罗退出第2天,葡萄牙28人名单炸了!热苏斯这话太狠了

静暖文字
2026-11-07 14:17:05
2026-11-07 22:28:49
赛博禅心
赛博禅心
拜AI古佛,修赛博禅心
623文章数 59关注度
往期回顾 全部

科技要闻

AI机房被卡,美股重挫!英伟达大跌9%

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

头条要闻

丈夫凌晨4点和陌生女子通话 妻子赌气与异性开房3天

体育要闻

40岁,正是绝杀的年纪!

娱乐要闻

42岁的唐嫣,又上热搜了

财经要闻

市场能接受AI繁荣退潮吗?

汽车要闻

限时权益价8.88万 吉利星愿STAR限定系列发布

态度原创

本地
健康
旅游
时尚
艺术

本地新闻

乌兰察布:以前种土豆,现在种Token

痘痘长到25岁还没完?查查内分泌

旅游要闻

直播间低价旅游卡兑现难 文旅消费陷阱如何破?

把北京喝成一杯酒

艺术要闻

17位 国外画家笔下的女子

无障碍浏览 进入关怀版