网易首页 > 网易号 > 正文 申请入驻

OrcaRouter用一套路由多模型组合,将ClaudeFable5满血复活

0
分享至

当行业默认“更强的 AI”等同于“等待下一个更大的模型”时,另一条路线正在变得清晰:不追求单点突破,而是把已有的模型编排成一个能协作、能互检的系统。

近期,AI 网关OrcaRouter(https://www.orcarouter.ai/)上线了一套名为 Routing DSL 的可编程路由策略。它的技术主张可以概括为一句话:用一套声明式规则,把多个现成模型组合起来,逼近——在部分场景甚至追平——顶级单模型的表现。其中一个被反复提及的参照对象,是被不少开发者视为最强模型的 Fable 5。

本文要点

• 在一组示意性测试中,多模型“组合面板”的得分普遍高于它的任一成员模型,且多个组合追平了顶级单模型。

• 这并非取巧,而是有清晰研究脉络的支撑:自一致性、混合智能体、复合 AI 系统、推理时计算扩展。

• OrcaRouter 的价值不在于提出新方法,而在于把这些原本停留在论文与脚本层面的思路,做成可声明、可灰度、可审计的基础设施。

一、一个被低估的事实:组合往往胜过单点

先看现象。在一组示意性测试中(注:以下为说明趋势的示意数据,非官方跑分,100 题中评分 93 题),由多个模型并行作答、再经仲裁挑选的“组合面板”,其得分普遍高于参与组合的每一个成员模型(图表 1):


  • · Claude Opus 4.8 与 GPT-5.5 组成的双模型面板(约 67.5%),同时高于二者各自单跑(约 58.5% 与 60%),领先 7 到 9 个百分点;

  • 多个组合追平、甚至超过了 Fable 5 单跑(约 65.5%);

  • 更值得注意的是:即便是“同一模型的自我组合”(Opus×2)也能逼近顶级水平;而一组更便宜的模型组合(约 64.5%)同样贴近 Fable 5——这意味着“性能”与“单价”被部分解耦。

如果再按请求难度做智能分流,把整套策略跑成一个完整端点,其综合表现在这组示意数据中可与 Fable 5 持平(图表 2)。换句话说,真正起作用的不是“更强的模型”,而是“更合理的编排结构”。


二、为什么有效:一条清晰的研究脉络

这一现象并非反常,它与过去两年生成式 AI 领域的一条重要研究主线高度吻合——通过在推理阶段投入更多计算与结构,而非单纯堆叠参数,来换取能力提升(图表 3)。


  • 自一致性(Self-Consistency):让模型对同一问题采样多条推理路径,再以多数投票得出答案,可显著提升推理准确率。

  • 混合智能体(Mixture-of-Agents):把多个模型的输出分层聚合、互相参考,仅用开源模型就能在部分对话基准上超过当时最强的闭源单模型。

  • 模型即裁判(LLM-as-a-Judge):用一个模型评判、排序另一些模型的输出,已成为评测与筛选的常用手段。

  • 复合 AI 系统(Compound AI Systems):学界明确提出,前沿能力正从“单一模型”转向“系统级组合”——检索、工具、多模型协作共同构成系统。

这些工作指向同一个机制:不同模型的错误往往是不相关的(decorrelated)。让它们各自独立作答,错误是分散的;再用投票、裁判或执行验证把正确答案挑出来,整体正确率就被抬升(图表 4)。模型之间的分歧不是噪音,而是可被收割的信号。


三、从论文到基础设施:Routing DSL 做了什么

上述方法虽有效,却长期停留在论文复现和一次性脚本的层面——难以治理、难以观测,更难安全地放到生产流量上。

OrcaRouter(https://www.orcarouter.ai/

Routing DSL

https://docs.orcarouter.ai/zh/routing/routing-dsl

本质上是给“复合 AI 系统”提供了一个声明式、可灰度、可审计的工程形态。

规则用 YAML 描述,条件判断用 CEL 表达式(运行在安全沙箱内、只读、微秒级求值),自上而下匹配。开发者既可按难度或任务把请求分流给不同模型,也可以让一条规则“扇出”到多个模型并行作答(图表 5):


use:

parallel: # 2~5 个模型并行作答

- { model: "claude-opus-4-8" }

- { model: "gpt-5.5" }

- { model: "gemini-3.1-pro" }

arbiter:

strategy: best_of_n # 由一个"裁判模型"挑选最优

model: "claude-sonnet-4-6"

仲裁提供四种策略,对应不同的工程目标:


更关键的是它的治理面:lint 静态校验、dry-run 试跑、影子模式(只评估不生效、先看 A/B 差异与成本变化)、0—100% 的灰度放量,以及每次变更的回滚审计。这套机制,使“把多模型编排放上生产流量”从一件高风险操作,变成可控、可观测、可回退的工程实践。

四、意义与边界

把视角拉远,这件事的意义有三层:其一是供给侧的现实意义——当头部模型对普通用户收紧、顶级能力变得稀缺,编排提供了一条“用现有资源重新逼近前沿能力”的路径;其二是成本结构的改变——“用拓扑换智能”使性能与单价解耦,真正昂贵的并行扇出只发生在难度最高的少数请求上(图表 6);其三是工程范式的迁移——团队的竞争力,正从“选用哪个模型”,部分转移到“如何编排模型”。


但同样需要冷静看待它的边界:

  • 成本:并行扇出意味着每条调用腿都要计费,只有配合按难度分流才具备经济性;

  • 成熟度:多模型并行扇出的运行时目前仍处于灰度/预览阶段,计费链路仍在验证;

  • 数据:本文引用的对比均为示意,而非官方基准;

  • 适用性:并非所有任务都受益——低难度或答案确定的请求,单模型往往更经济;编排也会引入额外延迟与系统复杂度。

换言之,编排是一种需要按场景权衡的工具,而非银弹。

结语

模型能力的边界,正在从“单点参数竞赛”扩展到“系统级编排”。在这条路线上,前沿不再只是一个需要等待的模型,而是一种可以被设计、被治理的结构。对工程团队而言,这或许意味着一个朴素但重要的转变:把更多注意力,从“追逐下一个模型”,转向“如何把已有的模型组织得更好”。

注:本文所涉性能对比均为示意性数据,仅用于说明趋势,非官方跑分;文中所述多模型融合运行时目前处于灰度/预览阶段。

更多内容:https://www.orcarouter.ai/blog/routing-dsl-compose-a-panel-of-models-that-thinks-like-fable-5

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1979年那场仗,中国人叫“自卫反击”,可越南人把这口气憋了47年,憋到近年才有人敢说实话

1979年那场仗,中国人叫“自卫反击”,可越南人把这口气憋了47年,憋到近年才有人敢说实话

扶苏聊历史
2026-09-04 13:53:44
不去了,韩国正式宣布。9月9日,韩国外交部表态,韩国政府决定不参加将于12日在日本新潟县佐渡市举办的佐渡金山强征劳工受害者悼念仪式

不去了,韩国正式宣布。9月9日,韩国外交部表态,韩国政府决定不参加将于12日在日本新潟县佐渡市举办的佐渡金山强征劳工受害者悼念仪式

扶苏聊历史
2026-09-10 15:08:27
这画面很治愈!北京街头,共享单车整齐如“复制粘贴”

这画面很治愈!北京街头,共享单车整齐如“复制粘贴”

北青网-北京青年报
2026-09-10 16:53:05
女教师带出5届状元班,优秀教师却落选,转身去私立,全年级挽留

女教师带出5届状元班,优秀教师却落选,转身去私立,全年级挽留

第四思维
2025-09-03 09:30:25
陈伟霆何穗一家三口首度现身:原来明星当了爸妈也是这样!

陈伟霆何穗一家三口首度现身:原来明星当了爸妈也是这样!

陈意小可爱
2026-09-10 12:07:22
失控的屁股

失控的屁股

中产先生
2026-09-09 00:52:15
演员黄海冰,为了带老婆进组,他推掉一堆优质剧本,导演都替他喊可惜

演员黄海冰,为了带老婆进组,他推掉一堆优质剧本,导演都替他喊可惜

财叔
2026-09-05 22:50:32
天龙三号遥一飞行失利原因公布:一级发动机涡轮废气在火箭底部二次燃烧,使防热裙连接结构处烧蚀变形,致发动机高温燃气进入一级尾舱起火

天龙三号遥一飞行失利原因公布:一级发动机涡轮废气在火箭底部二次燃烧,使防热裙连接结构处烧蚀变形,致发动机高温燃气进入一级尾舱起火

扬子晚报
2026-09-11 19:34:38
1986年,胡耀邦告诫胡启立:你记住,我们共产党人任何时候绝不能鱼肉人民

1986年,胡耀邦告诫胡启立:你记住,我们共产党人任何时候绝不能鱼肉人民

帝哥说史
2026-09-08 20:29:00
黄金,直线拉升

黄金,直线拉升

鲁中晨报
2026-09-11 14:59:25
利润暴跌37%、现金流负400亿!华为不是出事,是在下一盘大棋

利润暴跌37%、现金流负400亿!华为不是出事,是在下一盘大棋

流苏晚晴
2026-09-11 13:47:58
港媒:大陆高铁已被“粪便淹没”!再不解决后果严重,真的假的?

港媒:大陆高铁已被“粪便淹没”!再不解决后果严重,真的假的?

铭记历史呀
2026-09-02 02:21:33
左宗棠收复新疆代价有多大?阵亡6位一级将领,数据名单触目惊心

左宗棠收复新疆代价有多大?阵亡6位一级将领,数据名单触目惊心

文史达观
2025-07-06 06:45:03
章若楠直播回应被夸漂亮:大家卸了妆都长一样,所有人都在去包装一个产品,那能不漂亮吗?

章若楠直播回应被夸漂亮:大家卸了妆都长一样,所有人都在去包装一个产品,那能不漂亮吗?

新浪财经
2026-09-11 12:57:37
极氪9X月销从破万跌至2887:是竞品太强还是品牌“爆款魔咒”?

极氪9X月销从破万跌至2887:是竞品太强还是品牌“爆款魔咒”?

小怪吃美食
2026-09-11 06:01:40
没有半点场面话!王思雨赛后真心话,撕开队伍真实现状

没有半点场面话!王思雨赛后真心话,撕开队伍真实现状

江启
2026-09-11 10:31:37
龚爽丈夫守灵不动滴水未进,生死离别痛彻心扉

龚爽丈夫守灵不动滴水未进,生死离别痛彻心扉

陈意小可爱
2026-09-11 19:19:47
苹果官宣,iPhone 此功能将免费使用一年!

苹果官宣,iPhone 此功能将免费使用一年!

XCiOS俱乐部
2026-09-11 15:20:51
1.7亿欧天才踢疯了:欧冠独造3球,6次成功过人,全场最佳

1.7亿欧天才踢疯了:欧冠独造3球,6次成功过人,全场最佳

足球狗说
2026-09-11 06:15:04
活久见!山东一教学医院提示牌刷屏,普通号就诊或有医学生参与,评论区炸锅:这多好,普通号专家给你看诊,就是容易被参观

活久见!山东一教学医院提示牌刷屏,普通号就诊或有医学生参与,评论区炸锅:这多好,普通号专家给你看诊,就是容易被参观

火山詩话
2026-09-10 15:43:34
2026-09-11 23:08:49
半导体圈 incentive-icons
半导体圈
这才是半导体的圈子!
7581文章数 61458关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

也门胡塞武装攻占战略要地 红海航运管控格局生变

头条要闻

也门胡塞武装攻占战略要地 红海航运管控格局生变

体育要闻

37岁还能场场进球,还能翻跟头!

娱乐要闻

黄晓明直言帮太多白眼狼,杨颖遭殃

财经要闻

女装“玖姿”母公司跨境贸易迷局:安正时尚说谎了吗?

汽车要闻

买菜车也有小乐趣 风云T7不止是台合格家用SUV

态度原创

房产
手机
游戏
公开课
军事航空

房产要闻

别再等了!广州改善好房,正在进入“卖一套少一套”时代

手机要闻

vivo X500系列定档,新机外观正式公布

《GTA6》裸体小镇现实原型被找到!商家遭遇麻烦了

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

涉伊朗核问题 中国和俄罗斯投下反对票

无障碍浏览 进入关怀版