网易首页 > 网易号 > 正文 申请入驻

AI圈又炸了!OpenAI前员工创业的Jev刚露头爆火,就被Laya开源秒了!

0
分享至


编辑:kid

9 月中旬的 AI 开发者生态,迎来了一场极具戏剧性的闪电攻防战。

前 OpenAI 早期核心研究员、RLCD(基于蒸馏的无强化学习对齐)论文作者迪奥戈·阿尔梅达(Diogo Almeida)携新创公司 TypeSafe AI 正式登场,高调推出了号称首个“快到不可思议”的专用决策大模型 Jev。该模型宣称专注于系统 1(System 1)的瞬时直觉决策,将传统大模型动辄数秒的分类与路由耗时压缩到 200 毫秒左右,在技术社区掀起了一阵惊呼。


这一精心包装的闭源光环仅仅维持了三天。9 月 18 日,开源团队 ConvAI Innovations 携带完全遵从 Apache 2.0 协议的轻量化决策模型 Laya 杀入战场。Laya 依托成熟的开源架构,在同等分类任务下将端到端中位延迟直接杀穿到 32.8 毫秒,响应速度足足达到 Jev 的 7 倍,多语言与长上下文能力全面领先。


01

前 OpenAI 老兵造势,主打“快到极致”的决策大模型

9 月 15 日,迪奥戈·阿尔梅达在技术社交圈发布长文,为开发者描绘了一个全新的大模型分支。

在过往的认知中,大语言模型都在向“系统 2”(慢思考、长推理链、多步验证)狂飙,如同 OpenAI 发布的 o1 系列。阿尔梅达指出,在自动化软件工程、Agent 编排与防御安全系统里,高达 80% 的工作流根本不需要慢吞吞的思考,它们需要的仅仅是系统 1 的直觉判断:这个用户提问是否违规?应该路由给前端代理还是后端代理?当前函数调用该走哪一个分支?

让百亿参数的通用大模型处理这类二元选择或有限多分类问题,既存在明显的算力浪费,生成包含开场白、JSON 结构体和换行符的长文本更会强行增加数百毫秒的漫长等待。


Jev 由此应运而生。它舍弃了文本对话的长篇大论,专门用来处理分类、路由和 Guardrails(安全合规防护)等原子任务。TypeSafe 官方强调,该模型具备前 OpenAI 顶尖团队沉淀的高强度对齐工艺,单次 API 调用的推理耗时约为 200 到 250 毫秒。

产品一经上线,立刻吸引了大量正在搭建多智能体应用的企业工程师试用。许多人感叹:终于有前沿团队注意到 Agent 系统中最大的性能瓶颈了。

02

换个分类头何谈算法革命?

就在 Jev 借着前 OpenAI 员工头衔收获满堂喝彩之际,极客开发者社区里却传来了清脆的质疑声。

多位深谙底层模型架构的开发者在论坛展开逆向剖析,撕开了决策模型神秘的外衣。核心结论十分简练:这种决策模型和当下的对话大模型,基模本来就是同一套体系。

日常使用的对话大模型,底层采用自回归生成机制,输出依靠一个 Token 接着一个 Token 逐步预测。生成一个完整的回答,模型必须经历数十次甚至上百次前向传播,每一个步骤都在巨大的词表里做一次庞大的选择题,时间自然居高不下。

Jev 剥离了漫长的解码循环。在具体工程实现上,开发团队直接把原有的逐词解码输出层,替换成一个专门针对分类任务训练的线性输出头(Classification Head)。在推理阶段,模型接收完整的 Prompt 上下文后,只经过单次前向计算输出一个 Token,后续的所有自回归循环被底层引擎暴力截断,直接终止输出。

这就意味着,目前市面上任何一个开源的基础模型,稍微做一下结构调整,把解码头换成下游任务分类层,就能立刻蜕变为这种决策专精模型。这类微调的训练成本几乎可以忽略不计。

“目前的对话模型,每个 Token 都在做选择题。限制它只返回一个 Token,后续全部截断,出来的东西本质上就是 Jev。”一位开源社区工程师表示。将学术界十年前就在用的编码器分类头重包装一番,套上闭源商业 API 和高昂的按次计费模式,瞬间变成了一场贩卖焦虑的资本游戏。


03

32.8 毫秒极速超车,Laya 用全开源撕开皇帝的新衣

戳穿技术滤镜最响亮的耳光,来自干净利落的开源代码。

9 月 18 日,由工程师难达基绍尔·穆库诺斯(Nandakishor Mukkunnoth)主导的 ConvAI 创新团队正式发布 Laya 模型家族,面向全球开发者彻底开源。

Laya 毫无保留地公布了架构细节与全部权重。团队基于 ModernBERT-large(4.21 亿参数)和多语言基础模型 mmBERT-base(3.22 亿参数),构建了纯编码器形态的高性能决策引擎。其核心功能直击 Jev 的腹地:


  1. 极致延迟:在标准评估基准上,Laya 的中位推理延迟压缩到惊人的 32.8 毫秒,P95 延迟维持在 42 毫秒内,相比 Jev 的 200 余毫秒提升整整 7 倍。

  2. 跨语言支持:由于吸收了现代多语言表征技术,Laya 覆盖包括中、英、西、法在内的数十种通用语言,在复杂多语境下的意图识别表现遥遥领先。

  3. 自由部署:采用最为开放的 Apache 2.0 协议,开发者可以在单张消费级 GPU、MacBook 甚至边缘工业芯片上本地加载,数据无需离开内网。

性能对比数据一出,舆论风向瞬间发生扭转。当一个百兆体积的开源模型能在本地跑出 33 毫秒的成绩,且推理准确率毫不逊色时,开发者为什么还要把机密的代码、敏感的用户 Prompt 发送到闭源的云端接口,并忍受 7 倍的延迟与单次调用的计费?


— 完 —

科技前沿进展每日见

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
国际法院裁定缅甸对其境内穆斯林少数群体犯有“种族灭绝罪”,中方:对越权管辖和扩大解释等问题存在关切,认为有关做法不利于争端解决

国际法院裁定缅甸对其境内穆斯林少数群体犯有“种族灭绝罪”,中方:对越权管辖和扩大解释等问题存在关切,认为有关做法不利于争端解决

政知新媒体
2026-11-20 15:27:31
英伟达解雇黄仁勋一周后,台积电近况曝光:突然要求超额订单先付现金

英伟达解雇黄仁勋一周后,台积电近况曝光:突然要求超额订单先付现金

小徐讲八卦
2026-11-20 11:11:05
不可思议!广东女生相亲提出四项硬性条件,要求男方月入10万,直言自己年轻貌美值得,视频引发网友热议

不可思议!广东女生相亲提出四项硬性条件,要求男方月入10万,直言自己年轻貌美值得,视频引发网友热议

火山詩话
2026-11-20 14:27:45
绝境翻盘!卞相壹顶住重压逆转取胜,斩获三星杯桂冠,李钦诚随手战败

绝境翻盘!卞相壹顶住重压逆转取胜,斩获三星杯桂冠,李钦诚随手战败

L76号
2026-11-20 14:47:33
冲上热搜!花都山姆动工,激活广州北部消费新引擎

冲上热搜!花都山姆动工,激活广州北部消费新引擎

广州花都发布
2026-11-20 18:47:46
比恒大更惊人,中国第二大民企轰然倒下,负债7500亿,创始人落网

比恒大更惊人,中国第二大民企轰然倒下,负债7500亿,创始人落网

墨策史
2026-11-14 02:15:05
等了21年!中国U17今晚22点迎U17世界杯首战,对手是西班牙

等了21年!中国U17今晚22点迎U17世界杯首战,对手是西班牙

懂球帝
2026-11-20 06:38:19
痛哉,中国股市!

痛哉,中国股市!

水皮M0RE
2026-11-20 17:51:49
今晚开播!中央八套黄金档26集好剧来袭!演员阵容雄厚

今晚开播!中央八套黄金档26集好剧来袭!演员阵容雄厚

i书与房
2026-11-20 07:57:59
秘密行程?特朗普起飞前,收走了所有记者手机!

秘密行程?特朗普起飞前,收走了所有记者手机!

胜研集
2026-11-20 01:28:08
扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

扫地出门!曼联“标王”或火速转投尤文!2亿镑强援有望空降红魔

头狼追球
2026-11-20 13:01:14
文班亚马32分11板马刺轻取快船,卡斯尔21+6+12加兰23分5助

文班亚马32分11板马刺轻取快船,卡斯尔21+6+12加兰23分5助

湖人崛起
2026-11-20 11:31:13
媒体人:巴里-布朗已抵达烟台与球队汇合,今晚登场与否还需评估

媒体人:巴里-布朗已抵达烟台与球队汇合,今晚登场与否还需评估

懂球帝
2026-11-20 14:48:58
1973年,伊朗国王亲信大臣阿拉姆的日记曝光:巴列维每日必须进行多次性生活,否则就会跌入重度抑郁

1973年,伊朗国王亲信大臣阿拉姆的日记曝光:巴列维每日必须进行多次性生活,否则就会跌入重度抑郁

磊子讲史
2026-11-19 15:31:48
APEC全家福惊现"最不受欢迎的人",零会晤背后藏着什么?

APEC全家福惊现"最不受欢迎的人",零会晤背后藏着什么?

三周檀的鲲
2026-11-19 19:55:46
荷兰导弹7枚击中克里米亚大桥,俄罗斯质问荷兰:你们参战了?

荷兰导弹7枚击中克里米亚大桥,俄罗斯质问荷兰:你们参战了?

桂系007
2026-11-18 23:50:36
高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

高市早苗在深圳就台湾问题表态,外交部最新回应:日方在台湾问题上尽快纠正错误言行

每日经济新闻
2026-11-20 17:08:48
比亚迪发布折叠方向盘,10秒钟可边泊车边折叠

比亚迪发布折叠方向盘,10秒钟可边泊车边折叠

新京报
2026-11-19 22:46:06
俄政府敲定克里米亚大桥修复方案

俄政府敲定克里米亚大桥修复方案

参考消息
2026-11-20 14:27:04
饭店88元红烧“小鸡”竟是候鸟,男女老少齐上阵,村民直言“留着鸟干嘛”;起底候鸟迁徙通道上的血色产业链

饭店88元红烧“小鸡”竟是候鸟,男女老少齐上阵,村民直言“留着鸟干嘛”;起底候鸟迁徙通道上的血色产业链

大风新闻
2026-11-20 10:22:07
2026-11-20 19:28:49
IT小埋 incentive-icons
IT小埋
爱科技,爱生活,爱吃瓜
1250文章数 1490关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

亲子
旅游
艺术
公开课
军事航空

亲子要闻

奶奶给大孙买的草莓真甜,姥姥给的高粱米做一锅,焦黏喷香都爱吃

旅游要闻

美丽北京|一地鎏金引游人

艺术要闻

这才是怀素《自叙帖》原貌,台北故宫秘藏几十年,揭露唐人草书真实笔法!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版