![]()
过去两年,整个行业都在比赛谁家模型更会说话。9月16日之后,硅谷开始流行一个相反的问题——如果它一个字都不说呢?
1.
先看一个不会说话的AI模型。
这款名叫Jev的模型,上线Vercel的AI Gateway之后,24小时内,接近13%的Vercel付费团队把它接了进来。这是该平台历史上新模型被采用最快的一次。
![]()
然后你去看这个模型能干什么——它不能聊天,不能写代码,不能写文案,不能看图,也不能解释理由。
一个什么都不会的模型,却跑出了平台最快的采用曲线。
这在如今各个大厂都在卷“生成模型”、比上下文比输出内容多不多的时候,几乎是给了整个AI行业当头一棒。
而Jev能拿下如此多的采用,仅仅是因为它做了一个转向:把"判断"从"生成"里切了出来。
2.
介绍一下这款神奇模型吧。
Jev诞生于旧金山的AI团队TypeSafe AI,9月16日才发布。
但创始人来历不小,迪奥戈·阿尔梅达是GPT-4论文的共同作者、前OpenAI研究员。公司隐身研发了两年,出来时带着DCVC领投的4000万美元种子轮。
![]()
它给自己贴的标签是"系统一模型"(SystemOneModel),典故出自卡尼曼的《思考,快与慢》:系统一是不用过脑子的直觉判断,系统二是慢下来一步步推理。
TypeSafe的说法很直接,过去这些年所有人都在卷系统二——会思考、会写长文、会解释、会反思。但软件内部真正需要的那类判断,绝大多数是系统一。
所以Jev只做一件事:答选择题。
3.
它的接口就很简单:
你给它一段"状态"(一封邮件、一行日志、一条工单、一段程序状态),再给它几个提前定好类型的问题,它一次性把答案全吐回来,每个答案带一个概率,外加一个"我有几成把握"的置信度。
题只有三种:
-Choice:从最多255个选项里挑一个
-Score:在一个2到10级的刻度上打分
-Noul:给出一个0到1的是/否概率
三种题型可以混在同一个请求里并行计算。官方说法是,问一个问题还是问四个问题,延迟几乎一样。
快和便宜是它的底牌。普通大模型是一个字一个字往外写,写多久取决于要写多长;Jev不写字,答案的取值空间在提问的那一刻就锁死了,把每个选项的概率算一遍就结束。端到端70到500毫秒,输入每百万token收0.042美元,输出免费。
是的,你没看错,输出免费。而且,由于仅仅输出选项,所以它的幻觉率,是0。
4.
更超出人们想象的是,Jev的场景。
Jev火了之后,社区用得最多的一个场景,是拿它当微信插件。
我们都忽略了一件事,很多传统软件里需要AI做的事,其实不是生成,而是判断。
比如上司用微信对你说:你看着办。
到底该怎么办?小改一下?放着不管?还是推倒重来?这些都是判断题。
![]()
把这类问题拆开看,都是同一副形状:
-这条消息要不要回?
-要不要@对方?
-这条是不是广告?
-要不要把人踢出群?
-这条该不该转人工?
-这个人是不是想退款?
-这段话有没有违规?
从有限选项里挑一个,而且要在几百毫秒内出结果。这正是Jev的形状。
5.
那为什么不用大模型?
因为大模型慢。大模型回一条要3到30秒。微信群的消息是滚动的,30秒之后你再接话,对方早走了,话题也早换了。70到500毫秒,意味着你还赶得上在消息滚出屏幕之前插一句。
贵。
微信机器人多半跑在便宜的常开或轻量服务器上,单次判断的成本必须低到可以忽略不计。几十万条消息逐条过一遍大模型,那就是真金白银。0.042美元每百万token、输出免费,把单条判断压到万分之一美元的量级,这笔账才算得过来。
不敢说错话。一个自由生成的大模型塞进聊天框,随时可能冒出一句不该冒的话,轻则社死,重则触发风控直接封号。
而Jev根本不生成文本,它只从你给的选项里挑,从结构上就"说不出格"。
6.
Jev和微信更契合的地方在于,顺手解决了微信插件的老大难问题:自动回复和转人工之间那条线。
全自动,内容控不住;全转人工,人扛不住。而Jev可以给每个判断配了一个校准过的置信度,这条线从"凭感觉"变成了一道阈值——把握高就自动放行,把握低就转给人,或者转给更贵的大模型。
还有一个容易被忽略的升级:关键词匹配变成了语义判断。以前是命中"广告"就踢人、被@了就应答,对方换个说法就失效。现在判断依据从关键词挪到了意图,同样是回不回、踢不踢,但底层逻辑已经换了,实现的成本也更低了。
现在安装这个模型也不复杂:对Codex说一句npxskillsaddtypesafe-ai/skills,或者在ClaudeCode里加个插件市场,再或者通过OpenRouter直接调用就可以。
社区里已经有现成产品,比如我用的比较多的wechat-jev-hud——一个跑在Windows上的微信HUD,截屏、定位聊天区域、识别文字气泡,把Jev卡在OCR和叠加层中间做实时判断。
效果就是对方这条消息,有多大概率是在说哪种事,直接标在屏幕上。
7.
Jev火得这么快,是因为它踩中了一个积压已久的问题:Agent为什么还是又慢又贵?
过去两年的AI叙事是更长的上下文、更聪明的推理、更漂亮的回答。可真把一个模型塞进每天要跑几十万次的系统里,你会发现,其中大多数调用根本不需要它"说话",只需要它"判断":一张工单归哪个部门,一次工具调用有没有风险,一段输出有没有跑偏,下一步该点页面上哪个按钮。
这些问题只有一个正确答案,而且选项早就写在你自己的代码里。让一个会写作文的模型先写一段话,再由程序把它翻译回一个判断——绕了整整一大圈。
Jev想省掉的,就是这一圈冗余流程。所以社区里很多人说它像一句"语义if语句":如果对方的意图是这样,那就给这个答案。
不过"Jev取代大模型"是个伪命题。更合理的分工是:大模型负责把判断规则想清楚,Jev负责在生产环境里高频、低价地执行。
微信这个例子其实已经说明了它先落地的地方不会是"需要创造力"的场景,而是高频、低成本、不能出错的地方。判断越频繁、越琐碎、越怕错,它就越合适。
当"判断"这件事本身变得足够便宜,我们可能干脆就不让模型说话了,只让它做判断。判断层会像数据库、像缓存一样,变成一层默认的基础设施,藏在每个应用的底下。
过去AI都想着做颠覆,但越来越多的证据证明,AI是过去互联网积累之上的延伸,依旧站在巨人的肩膀上。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.