网易首页 > 网易号 > 正文 申请入驻

OrcaRouter用一套路由多模型组合,将ClaudeFable5满血复活

0
分享至

当行业默认“更强的 AI”等同于“等待下一个更大的模型”时,另一条路线正在变得清晰:不追求单点突破,而是把已有的模型编排成一个能协作、能互检的系统。

近期,AI 网关OrcaRouter(https://www.orcarouter.ai/)上线了一套名为 Routing DSL 的可编程路由策略。它的技术主张可以概括为一句话:用一套声明式规则,把多个现成模型组合起来,逼近——在部分场景甚至追平——顶级单模型的表现。其中一个被反复提及的参照对象,是被不少开发者视为最强模型的 Fable 5。

本文要点

• 在一组示意性测试中,多模型“组合面板”的得分普遍高于它的任一成员模型,且多个组合追平了顶级单模型。

• 这并非取巧,而是有清晰研究脉络的支撑:自一致性、混合智能体、复合 AI 系统、推理时计算扩展。

• OrcaRouter 的价值不在于提出新方法,而在于把这些原本停留在论文与脚本层面的思路,做成可声明、可灰度、可审计的基础设施。

一、一个被低估的事实:组合往往胜过单点

先看现象。在一组示意性测试中(注:以下为说明趋势的示意数据,非官方跑分,100 题中评分 93 题),由多个模型并行作答、再经仲裁挑选的“组合面板”,其得分普遍高于参与组合的每一个成员模型(图表 1):


  • · Claude Opus 4.8 与 GPT-5.5 组成的双模型面板(约 67.5%),同时高于二者各自单跑(约 58.5% 与 60%),领先 7 到 9 个百分点;

  • 多个组合追平、甚至超过了 Fable 5 单跑(约 65.5%);

  • 更值得注意的是:即便是“同一模型的自我组合”(Opus×2)也能逼近顶级水平;而一组更便宜的模型组合(约 64.5%)同样贴近 Fable 5——这意味着“性能”与“单价”被部分解耦。

如果再按请求难度做智能分流,把整套策略跑成一个完整端点,其综合表现在这组示意数据中可与 Fable 5 持平(图表 2)。换句话说,真正起作用的不是“更强的模型”,而是“更合理的编排结构”。


二、为什么有效:一条清晰的研究脉络

这一现象并非反常,它与过去两年生成式 AI 领域的一条重要研究主线高度吻合——通过在推理阶段投入更多计算与结构,而非单纯堆叠参数,来换取能力提升(图表 3)。


  • 自一致性(Self-Consistency):让模型对同一问题采样多条推理路径,再以多数投票得出答案,可显著提升推理准确率。

  • 混合智能体(Mixture-of-Agents):把多个模型的输出分层聚合、互相参考,仅用开源模型就能在部分对话基准上超过当时最强的闭源单模型。

  • 模型即裁判(LLM-as-a-Judge):用一个模型评判、排序另一些模型的输出,已成为评测与筛选的常用手段。

  • 复合 AI 系统(Compound AI Systems):学界明确提出,前沿能力正从“单一模型”转向“系统级组合”——检索、工具、多模型协作共同构成系统。

这些工作指向同一个机制:不同模型的错误往往是不相关的(decorrelated)。让它们各自独立作答,错误是分散的;再用投票、裁判或执行验证把正确答案挑出来,整体正确率就被抬升(图表 4)。模型之间的分歧不是噪音,而是可被收割的信号。


三、从论文到基础设施:Routing DSL 做了什么

上述方法虽有效,却长期停留在论文复现和一次性脚本的层面——难以治理、难以观测,更难安全地放到生产流量上。

OrcaRouter(https://www.orcarouter.ai/

Routing DSL

https://docs.orcarouter.ai/zh/routing/routing-dsl

本质上是给“复合 AI 系统”提供了一个声明式、可灰度、可审计的工程形态。

规则用 YAML 描述,条件判断用 CEL 表达式(运行在安全沙箱内、只读、微秒级求值),自上而下匹配。开发者既可按难度或任务把请求分流给不同模型,也可以让一条规则“扇出”到多个模型并行作答(图表 5):


use:

parallel: # 2~5 个模型并行作答

- { model: "claude-opus-4-8" }

- { model: "gpt-5.5" }

- { model: "gemini-3.1-pro" }

arbiter:

strategy: best_of_n # 由一个"裁判模型"挑选最优

model: "claude-sonnet-4-6"

仲裁提供四种策略,对应不同的工程目标:


更关键的是它的治理面:lint 静态校验、dry-run 试跑、影子模式(只评估不生效、先看 A/B 差异与成本变化)、0—100% 的灰度放量,以及每次变更的回滚审计。这套机制,使“把多模型编排放上生产流量”从一件高风险操作,变成可控、可观测、可回退的工程实践。

四、意义与边界

把视角拉远,这件事的意义有三层:其一是供给侧的现实意义——当头部模型对普通用户收紧、顶级能力变得稀缺,编排提供了一条“用现有资源重新逼近前沿能力”的路径;其二是成本结构的改变——“用拓扑换智能”使性能与单价解耦,真正昂贵的并行扇出只发生在难度最高的少数请求上(图表 6);其三是工程范式的迁移——团队的竞争力,正从“选用哪个模型”,部分转移到“如何编排模型”。


但同样需要冷静看待它的边界:

  • 成本:并行扇出意味着每条调用腿都要计费,只有配合按难度分流才具备经济性;

  • 成熟度:多模型并行扇出的运行时目前仍处于灰度/预览阶段,计费链路仍在验证;

  • 数据:本文引用的对比均为示意,而非官方基准;

  • 适用性:并非所有任务都受益——低难度或答案确定的请求,单模型往往更经济;编排也会引入额外延迟与系统复杂度。

换言之,编排是一种需要按场景权衡的工具,而非银弹。

结语

模型能力的边界,正在从“单点参数竞赛”扩展到“系统级编排”。在这条路线上,前沿不再只是一个需要等待的模型,而是一种可以被设计、被治理的结构。对工程团队而言,这或许意味着一个朴素但重要的转变:把更多注意力,从“追逐下一个模型”,转向“如何把已有的模型组织得更好”。

注:本文所涉性能对比均为示意性数据,仅用于说明趋势,非官方跑分;文中所述多模型融合运行时目前处于灰度/预览阶段。

更多内容:https://www.orcarouter.ai/blog/routing-dsl-compose-a-panel-of-models-that-thinks-like-fable-5

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
青岛一造船厂外籍货轮起火,25名失联人员全部遇难,知情人称船厂已集体放假,现场图片曝光

青岛一造船厂外籍货轮起火,25名失联人员全部遇难,知情人称船厂已集体放假,现场图片曝光

Mr王的饭后茶
2026-09-10 19:19:46
美联储信誉被沃什一把赌光了!沃什上任百天,美债利率创18年新高

美联储信誉被沃什一把赌光了!沃什上任百天,美债利率创18年新高

策前论
2026-09-11 13:37:17
蔡国庆每月给弟弟蔡军发2万工资,发了20年,一共480万,条件就一个:在家全职照顾得阿尔茨海默症的母亲

蔡国庆每月给弟弟蔡军发2万工资,发了20年,一共480万,条件就一个:在家全职照顾得阿尔茨海默症的母亲

LULU生活家
2026-09-02 19:51:47
无底线支持以色列,坐上国际法院被告席的德国,终于知道慌了?

无底线支持以色列,坐上国际法院被告席的德国,终于知道慌了?

浮光惊掠影
2026-09-10 15:11:23
U16国少新一期大名单:张林峒、吴比乐、杨苡欢在列

U16国少新一期大名单:张林峒、吴比乐、杨苡欢在列

懂球帝
2026-09-11 18:18:08
面对携号转网,中国移动也在做调整:不转网的老用户,这3类福利值得看

面对携号转网,中国移动也在做调整:不转网的老用户,这3类福利值得看

普陀动物世界
2026-09-10 08:47:12
4岁男童风波:世上最糊涂的公道,是抓孩童的细错,赦成人的大过

4岁男童风波:世上最糊涂的公道,是抓孩童的细错,赦成人的大过

浪子说
2026-09-11 00:05:03
章若楠回应被夸漂亮,直言大家卸了妆都长一样,自己也是被包装过

章若楠回应被夸漂亮,直言大家卸了妆都长一样,自己也是被包装过

芊手若
2026-09-11 14:22:08
64万罚单刚落地!曹云金不再忍耐,现场给郭德纲倒油,句句直戳心窝

64万罚单刚落地!曹云金不再忍耐,现场给郭德纲倒油,句句直戳心窝

观星赏月
2026-09-11 10:57:43
新版世界地图将争议岛屿标为俄罗斯同色,日本要求修正

新版世界地图将争议岛屿标为俄罗斯同色,日本要求修正

澎湃新闻
2026-09-11 09:30:26
SpaceX爆料重磅利好:百亿美元算力大单落地,轨道算力时间表出炉

SpaceX爆料重磅利好:百亿美元算力大单落地,轨道算力时间表出炉

财联社
2026-09-11 12:35:04
AI“偷”《原神》角色声音去赚钱,上海首例判了:赔75万元,专家律师解读

AI“偷”《原神》角色声音去赚钱,上海首例判了:赔75万元,专家律师解读

红星资本局
2026-09-10 17:48:05
屏下前摄还没藏好?iPhone Duo真机被曝“纱窗效应”,网友:不如用挖孔!

屏下前摄还没藏好?iPhone Duo真机被曝“纱窗效应”,网友:不如用挖孔!

泡泡网
2026-09-10 17:07:04
酸菜再次被关注!研究发现:糖尿病患者常吃酸菜,身体会有变化

酸菜再次被关注!研究发现:糖尿病患者常吃酸菜,身体会有变化

芹姐说生活
2026-09-10 23:08:51
美联储9月加息概率为71.3%

美联储9月加息概率为71.3%

财联社
2026-09-11 06:50:04
PCB大牛股,5天3板!多股集体涨停

PCB大牛股,5天3板!多股集体涨停

21世纪经济报道
2026-09-11 14:50:24
俄专家一针见血,中国若要对日本动手,中国只有两个选择!

俄专家一针见血,中国若要对日本动手,中国只有两个选择!

阿嘵田侃故事
2026-09-10 07:18:38
证监会:全力维护资本市场平稳运行 加快推进实施新一轮资本市场改革开放,加强新型业务监管和风险防控

证监会:全力维护资本市场平稳运行 加快推进实施新一轮资本市场改革开放,加强新型业务监管和风险防控

证券时报
2026-09-11 07:06:08
时之笛重制版林克撞脸NHK人偶?前员工一句话点破

时之笛重制版林克撞脸NHK人偶?前员工一句话点破

奶凶的小霸王
2026-09-10 16:21:48
苏群:宫鲁鸣不会下课!他是中国篮球功勋教练 被攻击我怒不可遏

苏群:宫鲁鸣不会下课!他是中国篮球功勋教练 被攻击我怒不可遏

念洲
2026-09-11 12:10:03
2026-09-11 19:15:00
半导体圈 incentive-icons
半导体圈
这才是半导体的圈子!
7581文章数 61458关注度
往期回顾 全部

科技要闻

苹果折叠屏比小米华为贵5000元,该怎么选

头条要闻

时隔6天"葫芦娃爷爷"重新挂出葫芦:感觉对不起游客

头条要闻

时隔6天"葫芦娃爷爷"重新挂出葫芦:感觉对不起游客

体育要闻

37岁还能场场进球,还能翻跟头!

娱乐要闻

黄晓明直言帮太多白眼狼,杨颖遭殃

财经要闻

千叶珠宝创始人夫妇失联 股价应声"腰斩"

汽车要闻

买菜车也有小乐趣 风云T7不止是台合格家用SUV

态度原创

艺术
旅游
家居
房产
军事航空

艺术要闻

美国秘藏的一部《金刚经》!这才是楷书“金字塔尖”,欧颜柳赵也比不过

旅游要闻

文旅部门回应将核查措嘉冰川违规探险情况!南都曾推出调查

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

时隔7年,绿地海南再拿地!

军事要闻

涉伊朗核问题 中国和俄罗斯投下反对票

无障碍浏览 进入关怀版