网易首页 > 网易号 > 正文 申请入驻

AI圈又炸了!OpenAI前员工创业的Jev刚露头爆火,就被Laya开源秒了!

0
分享至


编辑:kid

9 月中旬的 AI 开发者生态,迎来了一场极具戏剧性的闪电攻防战。

前 OpenAI 早期核心研究员、RLCD(基于蒸馏的无强化学习对齐)论文作者迪奥戈·阿尔梅达(Diogo Almeida)携新创公司 TypeSafe AI 正式登场,高调推出了号称首个“快到不可思议”的专用决策大模型 Jev。该模型宣称专注于系统 1(System 1)的瞬时直觉决策,将传统大模型动辄数秒的分类与路由耗时压缩到 200 毫秒左右,在技术社区掀起了一阵惊呼。


这一精心包装的闭源光环仅仅维持了三天。9 月 18 日,开源团队 ConvAI Innovations 携带完全遵从 Apache 2.0 协议的轻量化决策模型 Laya 杀入战场。Laya 依托成熟的开源架构,在同等分类任务下将端到端中位延迟直接杀穿到 32.8 毫秒,响应速度足足达到 Jev 的 7 倍,多语言与长上下文能力全面领先。


01

前 OpenAI 老兵造势,主打“快到极致”的决策大模型

9 月 15 日,迪奥戈·阿尔梅达在技术社交圈发布长文,为开发者描绘了一个全新的大模型分支。

在过往的认知中,大语言模型都在向“系统 2”(慢思考、长推理链、多步验证)狂飙,如同 OpenAI 发布的 o1 系列。阿尔梅达指出,在自动化软件工程、Agent 编排与防御安全系统里,高达 80% 的工作流根本不需要慢吞吞的思考,它们需要的仅仅是系统 1 的直觉判断:这个用户提问是否违规?应该路由给前端代理还是后端代理?当前函数调用该走哪一个分支?

让百亿参数的通用大模型处理这类二元选择或有限多分类问题,既存在明显的算力浪费,生成包含开场白、JSON 结构体和换行符的长文本更会强行增加数百毫秒的漫长等待。


Jev 由此应运而生。它舍弃了文本对话的长篇大论,专门用来处理分类、路由和 Guardrails(安全合规防护)等原子任务。TypeSafe 官方强调,该模型具备前 OpenAI 顶尖团队沉淀的高强度对齐工艺,单次 API 调用的推理耗时约为 200 到 250 毫秒。

产品一经上线,立刻吸引了大量正在搭建多智能体应用的企业工程师试用。许多人感叹:终于有前沿团队注意到 Agent 系统中最大的性能瓶颈了。

02

换个分类头何谈算法革命?

就在 Jev 借着前 OpenAI 员工头衔收获满堂喝彩之际,极客开发者社区里却传来了清脆的质疑声。

多位深谙底层模型架构的开发者在论坛展开逆向剖析,撕开了决策模型神秘的外衣。核心结论十分简练:这种决策模型和当下的对话大模型,基模本来就是同一套体系。

日常使用的对话大模型,底层采用自回归生成机制,输出依靠一个 Token 接着一个 Token 逐步预测。生成一个完整的回答,模型必须经历数十次甚至上百次前向传播,每一个步骤都在巨大的词表里做一次庞大的选择题,时间自然居高不下。

Jev 剥离了漫长的解码循环。在具体工程实现上,开发团队直接把原有的逐词解码输出层,替换成一个专门针对分类任务训练的线性输出头(Classification Head)。在推理阶段,模型接收完整的 Prompt 上下文后,只经过单次前向计算输出一个 Token,后续的所有自回归循环被底层引擎暴力截断,直接终止输出。

这就意味着,目前市面上任何一个开源的基础模型,稍微做一下结构调整,把解码头换成下游任务分类层,就能立刻蜕变为这种决策专精模型。这类微调的训练成本几乎可以忽略不计。

“目前的对话模型,每个 Token 都在做选择题。限制它只返回一个 Token,后续全部截断,出来的东西本质上就是 Jev。”一位开源社区工程师表示。将学术界十年前就在用的编码器分类头重包装一番,套上闭源商业 API 和高昂的按次计费模式,瞬间变成了一场贩卖焦虑的资本游戏。


03

32.8 毫秒极速超车,Laya 用全开源撕开皇帝的新衣

戳穿技术滤镜最响亮的耳光,来自干净利落的开源代码。

9 月 18 日,由工程师难达基绍尔·穆库诺斯(Nandakishor Mukkunnoth)主导的 ConvAI 创新团队正式发布 Laya 模型家族,面向全球开发者彻底开源。

Laya 毫无保留地公布了架构细节与全部权重。团队基于 ModernBERT-large(4.21 亿参数)和多语言基础模型 mmBERT-base(3.22 亿参数),构建了纯编码器形态的高性能决策引擎。其核心功能直击 Jev 的腹地:


  1. 极致延迟:在标准评估基准上,Laya 的中位推理延迟压缩到惊人的 32.8 毫秒,P95 延迟维持在 42 毫秒内,相比 Jev 的 200 余毫秒提升整整 7 倍。

  2. 跨语言支持:由于吸收了现代多语言表征技术,Laya 覆盖包括中、英、西、法在内的数十种通用语言,在复杂多语境下的意图识别表现遥遥领先。

  3. 自由部署:采用最为开放的 Apache 2.0 协议,开发者可以在单张消费级 GPU、MacBook 甚至边缘工业芯片上本地加载,数据无需离开内网。

性能对比数据一出,舆论风向瞬间发生扭转。当一个百兆体积的开源模型能在本地跑出 33 毫秒的成绩,且推理准确率毫不逊色时,开发者为什么还要把机密的代码、敏感的用户 Prompt 发送到闭源的云端接口,并忍受 7 倍的延迟与单次调用的计费?


— 完 —

科技前沿进展每日见

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
亚太潮涌|接棒中国!越南担任2027年APEC东道主

亚太潮涌|接棒中国!越南担任2027年APEC东道主

中国青年报
2026-11-19 20:18:27
消息传来:她已离世!出生在上海,容祖儿、谢霆锋、古巨基都是她的学生

消息传来:她已离世!出生在上海,容祖儿、谢霆锋、古巨基都是她的学生

上观新闻
2026-11-20 17:29:02
表演型人格,高市早苗APEC之行,除卖萌制造话题几乎没人搭理

表演型人格,高市早苗APEC之行,除卖萌制造话题几乎没人搭理

三叔的装备空间
2026-11-20 15:00:54
原来闷声发大财的行业这么多!网友:教中文一年挣800万

原来闷声发大财的行业这么多!网友:教中文一年挣800万

另子维爱读史
2026-11-19 20:22:52
两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

两性关系:发现了没,寿命长的男人,大多都有这五个好习惯

荔子言
2026-09-08 14:55:50
领导人们都吃什么?APEC深圳晚宴菜单出圈,头道菜藏着小巧思

领导人们都吃什么?APEC深圳晚宴菜单出圈,头道菜藏着小巧思

刘振起观点
2026-11-19 14:35:45
特朗普失算,被曝重仓英伟达,猎头正接触候选人,黄仁勋没戏了?

特朗普失算,被曝重仓英伟达,猎头正接触候选人,黄仁勋没戏了?

远山行客
2026-11-20 18:08:29
拒逆转!唐斯22+12+4,库明加23+3+3,灰熊收大礼,西部第四易主

拒逆转!唐斯22+12+4,库明加23+3+3,灰熊收大礼,西部第四易主

篮球大视野
2026-11-20 11:37:58
女澡堂里不敢看的一幕:脱了衣服,女人的底牌全露了

女澡堂里不敢看的一幕:脱了衣服,女人的底牌全露了

王二哥老搞笑
2026-10-17 00:35:34
最能治文吉儿的人出现,马天宇向她开炮,明哄暗讽超强输出,看爽了

最能治文吉儿的人出现,马天宇向她开炮,明哄暗讽超强输出,看爽了

糊咖娱乐
2026-11-20 18:11:40
张本美和:孙颖莎团体赛更强!王曼昱更擅长个人赛 王楚钦混双丢分多

张本美和:孙颖莎团体赛更强!王曼昱更擅长个人赛 王楚钦混双丢分多

念洲
2026-11-20 15:11:21
武汉徐东集团公告经营困难,分红难继续,200套抵债还建房继续分

武汉徐东集团公告经营困难,分红难继续,200套抵债还建房继续分

户外钓鱼哥阿旱
2026-11-20 12:09:06
降息,再次落空

降息,再次落空

大川东山再起
2026-11-20 16:02:32
真相炸裂!宗庆后3个私生子并非同一母亲,小儿子是别墅管家所生

真相炸裂!宗庆后3个私生子并非同一母亲,小儿子是别墅管家所生

派大星纪录片
2025-07-15 13:28:11
寥寥11个草书字,认出3个已属难得!全认出来,老师别急着走!

寥寥11个草书字,认出3个已属难得!全认出来,老师别急着走!

书画相约
2026-11-20 15:11:13
乌军炸断克里米亚大桥,残骸堵死亚速海航道,俄方修桥至少要数周?

乌军炸断克里米亚大桥,残骸堵死亚速海航道,俄方修桥至少要数周?

桂系007
2026-11-19 22:02:42
局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

民宿体验志
2026-11-15 19:41:13
糖尿病与苹果有关系?发现:想要保护胰岛健康,少吃这4种水果

糖尿病与苹果有关系?发现:想要保护胰岛健康,少吃这4种水果

白宸侃片
2026-11-20 09:50:14
26岁白俄模特被骗到缅甸,遭活摘器官杀害,5名招募者各判21年,幕后黑手还在逃

26岁白俄模特被骗到缅甸,遭活摘器官杀害,5名招募者各判21年,幕后黑手还在逃

文青大叔说
2026-10-10 08:35:45
1949年国军副师长被俘,受审时突然开口:帮我给周恩来发一封电报

1949年国军副师长被俘,受审时突然开口:帮我给周恩来发一封电报

第四思维
2025-07-23 13:38:09
2026-11-20 19:15:00
IT小埋 incentive-icons
IT小埋
爱科技,爱生活,爱吃瓜
1250文章数 1490关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

交付破16万台背后 全新ES8凭什么成为「高端纯电第一车」?

态度原创

教育
健康
房产
家居
军事航空

教育要闻

家里长期脏乱,其实是留给孩子昂贵的负担

医生眼里"很伤腰"的椅子,很多人天天坐

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

家居要闻

2026建博会(广州) 公装联探展交流活动

军事要闻

沙特首都第一高楼遭袭:炮弹从天而降

无障碍浏览 进入关怀版