网易首页 > 网易号 > 正文 申请入驻

Agent领导力大考!Einsia AI发布WorkflowArena,行业首个多智能体编排基准

0
分享至

机器之心发布

智能体正从单打独斗走向多智能体协同。

如今的 Claude Code、Codex 等框架,已经允许模型在运行时自己拉起子智能体,甚至直接写出调度它们的可执行工作流:任务怎么拆、每个子智能体拿到什么上下文、中间结果在哪里校验、最后如何整合。过去由工程师预先设计好的多智能体结构,正在交给模型自己临场决定。

这意味着,多智能体编排本身成了一项关键能力。同样一批智能体,组织得好可以事半功倍,组织得不好则会互相拖累。但现有评测要么只看任务最终有没有完成,要么在设计者预先规定好的协作结构里测试,始终没有回答一个问题:

「面对真实的长程任务,大模型能不能自己把多智能体系统组织好?」

为此,Einsia AI 旗下 Navers Lab 发布WorkflowArena,专门评测大模型的多智能体编排能力。基准包含145 项长程任务,覆盖软件工程、企业运营、科学研究、数学推导、金融、法律、内容设计与 3D 制作8 大专业领域,对9 个主流前沿模型的 25 种推理配置进行了全面评测。



WorkflowArena 的 145 项任务分布在 8 大领域、17 种任务形态

  • 论文题目:WorkflowArena: Benchmarking Executable Workflow Orchestration in LLM-Based Multi-Agent Systems
  • 项目主页:https://lab.einsia.ai/workflowarena
  • GitHub:https://github.com/Einsia/WorkflowArena
  • Arxiv:https://arxiv.org/pdf/2611.12856

不规定怎么分工,只看最终交付

WorkflowArena 的每道题,都是一份真实的专业交付:修改一个开源代码库、复现一项科学结果、完成一套 Lean 形式化证明、编制一份多主体合并报表、分析一起多被告案件,或在 Blender 里搭出一座完整的建筑群。

这些交付物的共同点是,各部分环环相扣:代码改动要通过原有的回归测试,财务数据要在不同主体之间对得上,法律结论要在多份文书间保持一致,3D 场景的各个部件要拼得严丝合缝。每一块单独做对还不够,整合在一起才算数。

能拆、但拆完必须对齐,正是编排能力的用武之地:比如合同组合分析,每份合同可以分头审,但合同之间的冲突必须合起来才看得出。



WorkflowArena 构建流程:真实素材 → 筛选「可拆分但相互耦合」的工作 → 只规定目标、不规定工作流 → 校验结果与整合。

评测中,模型拿到的是一个空白的「指挥台」:

  • 怎么编排,模型自己定。它可以自己动手,也可以通过 Workflow 工具同时调度多个子智能体,并随时查看、终止、修改工作流。要不要分工、怎么分工,完全由模型决定。每个子智能体该知道什么,也由它来交代。
  • 编排也要花时间。主智能体和所有子智能体共享推理预算,规划、调度、返工都算在里面。
  • 判题隐藏,过程留痕。模型看不到判题器和标准答案,评分只看交付结果,与用了多少子智能体无关;同时,每一次调度都被完整记录下来。

这样一来,WorkflowArena 不仅能看到「做得怎么样」,还能看到「是怎么组织起来做的」。

最强系统也只解决 36.95%,没有全能选手

WorkflowArena 采用严格的完全解决率:只有交付物满足全部验收标准,才算真正解决。各部分都做对、却没整合好的提交,同样判为失败。



25 种配置在 8 大领域的完全解决率(%),按总体结果排序。

榜首是Claude Opus 5.5(max),平均完全解决率36.95%。换句话说,即便是当前最强的系统,也有六成以上的任务没能完整交付。

领域之间的差距更加悬殊。形式化数学已接近饱和,Claude Opus 5.5 解决了95.83%;但软件工程最高只有 29.41%,金融最高 18.75%,法律最高仅9.09%。

而且,没有一个系统能通吃全部领域:Claude Opus 5.5 领跑软件工程、科学与数学,Claude Sonnet 5.5 拿下法律和内容设计,GPT-6 Astra 与 Doubao-Seed-Evolving 则拿下企业运营的并列第一。

Claude 与 GPT:两种截然不同的编排风格

由于每一次调度都被记录在案,WorkflowArena 把不同模型「怎么组织多智能体」摆在了同一张图上。



每道题平均调用 Workflow 的次数(左)与每个 Workflow 平均调度的子智能体数(右)。

结果显示出两种鲜明的风格:

  • Claude 系「谋定后动」:调用少,规模大。Claude Opus 5.5 和 Claude Sonnet 5.5 平均每题只调用 0.86 和 0.76 次 Workflow,但每次平均调度 5.55 和 6.14 个子智能体;9 个以上子智能体的大型编排,在 Sonnet 中占到 30%。
  • GPT 系「小步快跑」:调用勤,规模小。GPT-6 Astra 和 GPT-6.1 Sol 平均每题调用 2.09 和 1.94 次,但每次只调度 1.72 和 1.69 个子智能体,约 99% 的工作流不超过 4 个。

这种风格差异还会随任务领域变化。



9 个模型在 8 大领域的委派频率(左)与委派规模(右),圆圈越大数值越高。

法律任务中,Claude Opus 5.5 每个工作流平均调度 14.29 个子智能体,GPT-6 Astra 只有 1.73 个;数学任务中,Kimi K3.1 Pro 每题调用 9.67 次 Workflow,每次却只调度 1.74 个子智能体。调用得勤,不等于协作的规模大。

换一个编排者,弱模型也能明显变强

系统得分高低主要由两部分决定:工作流设计和模型执行能力。那么,编排本身到底值多少分?

研究团队设计了一个巧妙的实验:执行模型固定不变,只更换编写工作流的模型。Claude Opus 5.5 和 GPT-6 Astra 担任编排者,Kimi K3.1 Pro、GPT-6 Luna、DeepSeek V4.1 Flash、Doubao-Seed-Evolving 担任执行者;编排者不能亲自修改任何文件,所有实际工作都由执行模型完成。实验分两种模式:编排者写完工作流就离场(静态),或者全程在线、根据反馈不断调整(动态)。



核心子集上的工作流迁移结果。Self 为执行模型自己编排;加粗与下划线分别为每行最高与次高分。

注:这里比较的是连续得分(部分完成也计分)。子集难度明显更高,Kimi K3.1 Pro 在全部任务上平均 62.73 分,在这里只有 35.75 分。

Opus 编排的工作流,让所有执行模型都变强了。

  • Kimi K3.1 Pro 从 35.75 分提升到46.61分,涨了近 11 分;
  • DeepSeek V4.1 Flash 从 18.37 分提升到25.24分;
  • 四个执行模型平均提升6.41分(静态)和6.27分(动态)。

由于 Claude Opus 5.5 全程没有碰过任何文件,这些提升来自它设计的工作流,以及它交给每个子智能体的指令。

更有意思的是:自己会做,不代表会编排。

GPT-6 Astra 本身是一个强得多的系统:在全部 145 道题上平均得分 77.29,明显高于四个执行模型(最高为 Kimi K3.1 Pro 的 62.73)。可它编排的工作流交给别人执行,效果却差强人意:静态模式平均降低 2.53 分,动态模式平均提升只有 1.34 ,还拉低了 Kimi K3.1 Pro 和 DeepSeek V4.1 Flash 的成绩。

上述结果说明,多智能体编排能力并不是任务完成能力的副产品,而是一项需要单独衡量、也值得单独优化的能力。

算笔经济账:编排一道题要花多少钱?

把完全解决率和每道题的平均推理成本放在一起,就得到了这张性价比地图。



总体完全解决率与单题平均推理成本(对数坐标),折线为帕累托前沿。

不同系统的编排成本相差数十倍。同样是组织子智能体完成一份长程交付,最省的配置每题不到一美元,最贵的要几十美元。

但钱多不等于编排好。GPT-6 Astra 每道题的花费是 Claude Opus 5.5 的好几倍,解决率却始终没能追上 Claude Opus 5.5。同一个模型把推理强度往上调,成本大幅增加,收益却很有限。

决定上限的,是编排得好不好,而不是烧了多少 token。

同一座建筑,两种编排思路

3D 建造任务让编排的差异变得一目了然。模型需要根据施工图纸和设计变更单,在 Blender 中搭出完整的建筑场景。



宫殿、大教堂、要塞三项任务中,Claude Opus 5.5 与 GPT-6 Astra 的交付成果与工作流对比。

  • 宫殿:Claude Opus 5.5 同时派出 7 个子智能体分头建造各个殿宇,再组装、检查、多轮修复(78.86 分);GPT-6 Astra 先打好共享基础,再交给单个子智能体统一组装(73.86 分)。
  • 大教堂:Claude Opus 5.5 选择两次整体建造(77.95 分);GPT-6 Astra 则把教堂按区域分给三个子智能体,再单独整合(81.59 分)。
  • 要塞:两者都只用一个主建造者,但 Claude Opus 5.5 在动工前先派出 7 个子智能体研读图纸(64.31 分),GPT-6 Astra 则边建边审图(55.35 分)。

同样是 3D 建造,有的编排用来并行造部件,有的用来为主建造者备好图纸。没有放之四海而皆准的编排方式,好的编排取决于任务本身的结构。

从「能执行」到「组织协同」

当任务越来越长、越来越复杂,决定上限的不再只是单个模型有多强,而是整个系统如何被组织起来。

WorkflowArena 的结果说明,今天的大模型在多智能体编排上仍有很大提升空间;而一份好的工作流,本身就能让同一批模型交出明显更好的成果。

WorkflowArena 完整记录了每份交付物和产出它的工作流,也为后续研究留下了空间:让强模型负责编排、弱模型负责执行的异构多智能体系统,或许正是下一步的方向。

从「一个 Agent 完成一件事」到「一个 Agent 组织一群 Agent 完成一件事」,系统智能的竞赛,才刚刚开始。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
印媒:歼10C打赢空战没用,巴基斯坦空军仍有短板,无法挑战印军

印媒:歼10C打赢空战没用,巴基斯坦空军仍有短板,无法挑战印军

巅峰高地
2026-11-10 20:03:59
杨晨:正在谈王钰栋留洋的细节,浙江目标定在保八争五

杨晨:正在谈王钰栋留洋的细节,浙江目标定在保八争五

懂球帝
2026-11-10 19:43:17
马筱梅晒巴厘岛度假照,继母继女相处似亲母女!

马筱梅晒巴厘岛度假照,继母继女相处似亲母女!

娱乐顺风车666
2026-11-10 12:06:18
马健:杨瀚森现阶段要让开拓者教练看到能抢篮板 而不是进攻有多花

马健:杨瀚森现阶段要让开拓者教练看到能抢篮板 而不是进攻有多花

狼叔评论
2026-11-09 22:32:04
乒乓球,要不咱也别打了吧。

乒乓球,要不咱也别打了吧。

问道求真
2026-11-10 08:26:15
英伟达,股价直线上涨

英伟达,股价直线上涨

第一财经资讯
2026-11-10 17:30:55
耻辱3连败!东部黑马轰然倒下,三状元也成摆设,浓眉该被交易了

耻辱3连败!东部黑马轰然倒下,三状元也成摆设,浓眉该被交易了

篮球扫地僧
2026-11-10 18:31:46
难堪大用!休赛期6笔最差签约正式出炉:湖人看走眼,76人太倒霉

难堪大用!休赛期6笔最差签约正式出炉:湖人看走眼,76人太倒霉

后仰跳投绝杀
2026-11-09 18:29:14
白宫幕僚长卸任内幕曝光,与特朗普爆发激烈争执,当众大发雷霆

白宫幕僚长卸任内幕曝光,与特朗普爆发激烈争执,当众大发雷霆

金戈远望
2026-11-09 17:14:35
2026熊猫杯明天11月11日赛程:中国U19PK越南U19力争开门红

2026熊猫杯明天11月11日赛程:中国U19PK越南U19力争开门红

薇说体育
2026-11-10 17:33:40
中华人民共和国国务院令 第848号

中华人民共和国国务院令 第848号

极目新闻
2026-11-10 17:23:42
倒闭8.4万家!无数中年人的“庇护所”,如今为何跌下神坛?

倒闭8.4万家!无数中年人的“庇护所”,如今为何跌下神坛?

三农雷哥
2026-10-24 14:59:15
重踢攻势足球?曝前中超名帅或能加盟山东泰山,走出重建第1步

重踢攻势足球?曝前中超名帅或能加盟山东泰山,走出重建第1步

兰亭墨未干
2026-11-10 17:53:11
2026年11月中旬将上市的两款方盒子SUV,定价均在10-20万

2026年11月中旬将上市的两款方盒子SUV,定价均在10-20万

小龙侃车
2026-11-10 14:51:58
5岁被父亲抛弃,44岁成名,妻子是同班同学恩爱20年,儿子很帅气

5岁被父亲抛弃,44岁成名,妻子是同班同学恩爱20年,儿子很帅气

法老不说教
2026-11-10 19:17:55
中国已备好战争?俄防长撂话:10年内俄北必有一战,信号不简单!

中国已备好战争?俄防长撂话:10年内俄北必有一战,信号不简单!

月下守候
2026-11-09 16:46:23
明夏成自由球员!普尔:我真的很想念勇士 如果有机会我肯定愿回归

明夏成自由球员!普尔:我真的很想念勇士 如果有机会我肯定愿回归

罗说NBA
2026-11-10 15:09:03
留洋暂停!樊振东回国不到1天,公开亮相'新身份',终于等到这一天

留洋暂停!樊振东回国不到1天,公开亮相'新身份',终于等到这一天

春之寞陌
2026-10-17 18:36:16
本想涨油价多收税,结果大家少开车,反而收得更少

本想涨油价多收税,结果大家少开车,反而收得更少

生活魔术专家
2026-10-27 04:25:53
韦克林表示不在乎任何看不起他的人,哪怕那个人是台球皇帝亨得利

韦克林表示不在乎任何看不起他的人,哪怕那个人是台球皇帝亨得利

杨华评论
2026-11-10 18:01:40
2026-11-10 21:00:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14443文章数 142757关注度
往期回顾 全部

科技要闻

最强Claude来了!8天从零写出电脑系统

头条要闻

特朗普:伊朗战争的花费 以色列等国必须买单

头条要闻

特朗普:伊朗战争的花费 以色列等国必须买单

体育要闻

金球先生无缘世界最佳阵容,为什么?

娱乐要闻

W盛典:章子怡缺席,谷爱凌无缘主桌

财经要闻

黄奇帆之子黄然非,魏桥集团商业往事

汽车要闻

雨中的埃安Ray7,有点上头

态度原创

艺术
亲子
本地
公开课
军事航空

艺术要闻

中央美术学院青岛校区改名后,咋就荒成了这样?

亲子要闻

一定要告诉孩子:玩手机不止让大脑变笨,更可怕的是这一点!

本地新闻

乌兰察布:以前种土豆,现在种Token

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普:伊朗战事已“事实上结束 ”

无障碍浏览 进入关怀版