网易首页 > 网易号 > 正文 申请入驻

Jev引爆决策模型,大模型进入无限游戏

0
分享至

撰文| 郝 鑫

编辑| 王 潘

决策模型正在从一个新概念变成模型、API和数据平台,都在发布的产品类别。

决策模型也称“System One模型”,以TypeSafe的Jev开始,在随后不到一个月内涌现出十余款模型,微软、AWS、Perplexity、Snowflake等厂商相继入场。

一时间,整个行业梦回“百模大战”,这样的速度即使在AI行业也罕见。

决策模型的兴起,本质上是将智能体的决策层从推理层中解耦出来。这一趋势背后的逻辑是,智能体在工作过程中会产生大量小型、重复性的决策,这些决策决定了Agent下一步动作,判断是否通过验证,以及路由到哪个模型或工具。

现实中,产生决策并不需要大模型复杂的推理能力,但却占据了大量调用次数和成本。决策模型正是为这类高容量、有边界的Agent决策而设计。

决策模型也为中国企业Agent落地送来了一场“及时雨”。

在光子星球与一线企业与大厂交流中了解到,数字化底子好的企业已经进入了AI切入工作流环节。现阶段,很多企业已经放弃了训练垂直大模型的想法,取而代之的是在融入业务逻辑基础上,解决各个业务环节卡点。

工单该分给谁,请求是否需要人工介入,当前步骤是否继续。Agent在工作流中产生的这类判断,在企业Agent场景中密度极高。

决策模型的出现,为这类判断提供了专门的执行层。

决策层独立

过去两年构建Agent的做法,是让通用大模型处理复杂推理到简单工具路由的所有环节。这种方式在Agent刚起步时存在合理性,一个模型解决所有问题,简单直接。

但当Agent真正跑起来后,瓶颈便开始暴露。因为在一个Agent任务里存在大量琐碎的判断,这些判断答案空间有限、调用量大还在关键路径上。用性能最好的通用大模型每做一次判断,任务的延迟就会按秒叠加,账单也会按Token不断增加。

决策模型在其中充当了执行判断的角色,不生成文本,只在给定一组固定选项时返回校准后的概率分数。以微软发布的Microsoft-Decision-1为例,模型支持是非题、选择题和评分选项,也支持依据评分标准评估AI回复和智能体操作。

把决策层从大模型中拆出来,意味着Agent工作流中的每一个判断节点都可以被独立优化。决策模型不会取代大模型,而是与之形成分工与共存的关系。通用模型负责需要复杂推理和生成的“重”任务,决策模型负责Agent工作流中大量“轻”的重复性判断。

这一分工背后的直接驱动力是成本和延迟。TypeSafe公布的数字显示,Jev的端到端延迟在70到500毫秒之间,比同类大语言模型快了20到200倍。

微软Decision-1在Xbox Research处理超过10000条反馈时,质量与GPT-6 Sol相当,速度提高14倍,成本降低200倍。这种差距在单次Agent调用中看不出来,只有在高频、连续的决策链条中才会显现。


微软的DEMO中直观展现了分析类场景,使用决策模型返回速度的提升。使用ChatGPT Sol和Microsoft-Decision-1执行同一个分类并路由的请求,Microsoft-Decision-1仅用182毫秒就返回,而Sol用了6.4秒。

需要提到的是,当前的决策模型仍存在明显的边界。比如Jev目前图像输入仅支持PNG、JPEG静态图片,边长须在256至1568像素之间,单张图片不超过16MiB,费用按输入Token计算。官方提醒,Jev处理多模态任务时的表现仍不如纯文本任务。决策模型更适合作为业务流程中的一个判断组件,承担分类、排序、筛查或建议下一步的职能。

在微软给出的决策模型17个用途中,几乎都是高频、重复、嵌入工作流的“节点”。梳理完这些用途,实际构成了Agent系统的两个基础设施层。由安全筛查、数据验证、AI审评等构成的“免疫系统”层,负责识别判断和验证;由模型路由、智能体控制、事件响应路由等构成的“交通系统”层,主要负责评估、选择和调度。

模型分工显现

一个值得注意的趋势是,决策模型在极小的参数规模下,实现了与通用模型竞争的质量。

例如,开源决策模型THX-01只有3.22亿参数,开发团队在包含2843条英语、俄语、土耳其语和阿塞拜疆语客服工单的内部测试中,报告其分类准确率为98.4%,略高于Jev 1.13的97.4%,报告的GPU推理延迟约为10毫秒。

这说明,在选项明确、任务边界清晰的多语言工单分类上,一个参数规模很小的专用决策模型,也能达到与更大型模型服务有竞争力的表现,并显著降低推理延迟。

这种现象不是小模型“逆袭”,而是模型分工开始显现。

决策模型在有限任务上以较小参数模型达到有竞争力的表现,很容易被解读为“小模型追上了大模型”。但更确切地说,通用模型与决策模型所承担的工作不同,所以不需要用同一个模型包办所有环节。

通用模型的价值在于,处理开放、复杂、变化多的任务,例如理解模糊意图、进行多步推理、整合多种信息等。决策模型的工作范围则更窄,在已有状态、规则和候选动作之中,判断哪一个更合适,或给出各选项的概率与评分。

一句话总结为,前沿模型驱动能力,决策模型驱动效率。这种分工与传统软件架构的演进相似,当一项能力变得高频且边界清晰的时候,就有动力把它从通用组件中抽离出来,做成专用模块。


这时候,AI系统的能力竞争,就开始从模型有多大延伸到任务是否拆得更清楚。当业务问题可以被定义为状态、标准和有限动作,专用的小模型可能比通用大模型更适合承担高频的判断。未来的优势未必来自用一个模型包办一切,而是把不同任务分配给合适的模型和规则,并让其在可靠的流程中协同工作。

对于中国Agent团队来说,决策层的竞争壁垒将从模型规模,转移到场景理解。当下,决策模型的质量更多取决于,训练数据的质量和判断逻辑的清晰度。中国团队更多的机会,在于把特定业务场景中的判断逻辑,比如什么情况下升级、等待、转化为人工,转化为可训练、可部署和可校准的决策层。

参数规模已经不再是门槛,场景绑定才是。

在新机会面前,可能带来新一轮的格局洗牌。通用大模型公司最擅长的是投入巨额资源,打造面向广泛任务的基础模型。而许多决策模型的竞争力来自任务定义、行业数据、决策标准和流程集成。这些资产往往掌握在行业软件商、企业内部团队和垂直领域创业公司手里。大型模型可以提供底座,但未必天然拥有每个细分行业的业务规则、例外样本和结果反馈。

因此,市场可能会逐渐呈现分层。少数几个模型厂商提供基础决策模型和通用API,更多团队围绕金融、客服、制造、医疗、物流等具体场景,开发专用决策能力与工作流。竞争焦点将转化为谁能以可接受的成本,持续做出符合业务要求的判断,并把判断安全、稳定地接入实际流程。

落地场景,恰好是决策层的用武之地

国内比国外更强调“场景”,这一点从切入决策模型的动作就可以看出。

以微软为代表的国外公司,倾向于把通用决策模型API化,即用一个后训练的基础模型,通过云平台按Token计价分发,再让开发者调用。而中国团队的路径则更侧重,场景决策深度嵌入,即把决策能力直接嵌入到企业的业务系统、Agent框架和工作流中,以开源模型和本地化部署为主,解决具体场景中的判断问题。

一方面,金融、医疗、政务等领域的数据合规要求严格,闭源API调用在很多场景下不可行。另一方面,中国企业的Agent落地往往涉及与现有业务系统的深度集成。决策层需要理解具体的业务规则、权限体系和工作流逻辑,而这些信息不是通用API能够提供。

模型路由是国内落地最成熟的切入点,也是Agent工作流中决策频次最高、规则相对清晰的场景。

办公Agent实践已经表明,路由调度正在成为规模化使用的经济账。但模型路由只是起点,决策层更大的价值在于作为业务规则的执行引擎。例如,云知声开源的U2-Decision 4B围绕,任务交给谁、任务是否能执行和任务沿什么路径完成来搭建框架,对应的三项核心能力是智能模型路由、安全决策和工作流路由。

类似的“前置判断”能力对企业场景至关重要,落地到一个保险理赔Agent的决策层就需要知道,哪些材料缺失可以自动补全,哪些必须退回以及哪些需要人工核验。


路由解决的是“任务分配给谁”的问题,企业场景需要做到把决策与业务知识绑定,形成可复用的决策资产。

Chinese-Jev展示了一条可操作的路线,先用1000万条通用决策样本训练中文决策能力,再针对医疗、法律和金融分别微调。微调后的模型在医疗测试集上比Jev高4.0%,在专业领域的平均准确率达到Jev的92%,并实现约17倍加速,每个样本平均延迟15毫秒。这说明,部分领域判断模式可以通过专门训练沉淀到模型参数中。

说到底,国内团队强调“场景”,强调的是判断权的归属。当决策能力被嵌入业务系统,打通数据和与规则绑定后,Agent才能从回答问题变成承担责任的生产系统。

模型路由只是第一个证明,真正的主场是安全、权限、流程与合规。把判断变成可以复用和沉淀的企业资产,这条路才刚刚开始。



微信号|TMTweb

公众号|光子星球

别忘了扫码关注我们!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
李亚鹏被送急诊不到一周,王菲母女就开始为他争光,谢霆锋挺尴尬

李亚鹏被送急诊不到一周,王菲母女就开始为他争光,谢霆锋挺尴尬

触摸史迹
2026-11-20 09:46:45
深圳这次APEC,有个细节太提气了。各国嘉宾一下飞机、进会场,坐的啥车?是红旗,是腾势

深圳这次APEC,有个细节太提气了。各国嘉宾一下飞机、进会场,坐的啥车?是红旗,是腾势

扶苏聊历史
2026-11-19 15:27:26
特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

特朗普是美国历史上第一位,也是到目前为止唯一一位,当选总统前既没有任何文职政府公职、也没有参军服役经历的总统

回京历史梦
2026-10-26 10:49:29
米体:那不勒斯将以一个非常低廉的价格出售德布劳内

米体:那不勒斯将以一个非常低廉的价格出售德布劳内

懂球帝
2026-11-19 22:24:21
沈腾凭《欢迎来龙餐馆》获亚洲国际电影节最佳男主,影片同时斩获最佳影片荣誉

沈腾凭《欢迎来龙餐馆》获亚洲国际电影节最佳男主,影片同时斩获最佳影片荣誉

极目新闻
2026-11-20 19:22:32
特朗普从中国返美途中发文:这是一次伟大且意义深远的访问

特朗普从中国返美途中发文:这是一次伟大且意义深远的访问

极目新闻
2026-11-20 09:35:13
千亿老板拎包,陪老父亲逛商场购物,再大的老板在爹面前也是孩子

千亿老板拎包,陪老父亲逛商场购物,再大的老板在爹面前也是孩子

Mz娱乐前沿
2026-11-19 21:01:32
陈伟霆儿子近照曝光!何穗晒小win走路画面好温馨

陈伟霆儿子近照曝光!何穗晒小win走路画面好温馨

阿废冷眼观察所
2026-11-20 06:49:22
这是中国最不要脸的一个群体,无耻之极,世所罕见!

这是中国最不要脸的一个群体,无耻之极,世所罕见!

晓楖科普
2026-11-11 13:09:39
足协杯决赛:海港vs玉昆,12月6日决战苏州

足协杯决赛:海港vs玉昆,12月6日决战苏州

懂球帝
2026-11-20 21:41:51
7分+6分+10分!年薪超5000万美元!马刺想要冲冠,这人必须交易

7分+6分+10分!年薪超5000万美元!马刺想要冲冠,这人必须交易

钱说体育
2026-11-20 22:28:50
河南“骑行大佬”刘旭去世,年仅33岁有田有店,友人曝死因太可惜

河南“骑行大佬”刘旭去世,年仅33岁有田有店,友人曝死因太可惜

嫹笔牂牂
2026-11-20 07:28:58
好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

好奇查了一下黄仁勋的出身,不查不知道,一查惊讶了,原来黄仁勋根本不是什么大富豪家庭,而是普通的知识分子家庭。

回京历史梦
2026-11-15 06:35:06
脑梗住院的人飙升!医生含泪苦劝:无论多大年纪,天冷坚守5原则

脑梗住院的人飙升!医生含泪苦劝:无论多大年纪,天冷坚守5原则

路医生健康科普
2026-11-11 23:20:03
一路走好!不到72小时,已有3位名人被曝去世,个个都让人惋惜

一路走好!不到72小时,已有3位名人被曝去世,个个都让人惋惜

往史过眼云烟
2026-11-20 12:06:15
文班亚马32+11+3无缘今日最佳!对不起,你碰到创新高的利拉德了

文班亚马32+11+3无缘今日最佳!对不起,你碰到创新高的利拉德了

微评体育圈
2026-11-20 12:16:58
1988年,他喝醉了,把家里23岁的小保姆错认成自己的妻子。保姆没作声,第二天,保姆表示自己什么也不要。

1988年,他喝醉了,把家里23岁的小保姆错认成自己的妻子。保姆没作声,第二天,保姆表示自己什么也不要。

回京历史梦
2026-11-19 09:21:15
终于不准跌了?中央部委明确!明后两年,除了买房,你可能无选择

终于不准跌了?中央部委明确!明后两年,除了买房,你可能无选择

混沌录
2026-11-20 10:25:16
CBA杯16强定4席!天津坐收渔利直通,广州击败香港拿够净胜分

CBA杯16强定4席!天津坐收渔利直通,广州击败香港拿够净胜分

乒桢泳球
2026-11-20 17:53:57
斯坦丘致谢队友:是你们成就了更好的我,友谊永远都在

斯坦丘致谢队友:是你们成就了更好的我,友谊永远都在

懂球帝
2026-11-20 21:30:39
2026-11-20 23:08:49
光子星球 incentive-icons
光子星球
细微之处,看见未来!
1702文章数 2159关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

头条要闻

"花坛藏尸案"凶手不服死刑判决 已提起上诉

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

教育
家居
健康
本地
公开课

教育要闻

小鹿爱学,开启 AI 教育普惠时代

家居要闻

2026建博会(广州) 公装联探展交流活动

医生眼里"很伤腰"的椅子,很多人天天坐

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版