网易首页 > 网易号 > 正文 申请入驻

当Agent遇上猪队友!实测多Agent冲突场景,前沿大模型如何应对

0
分享至


新智元报道


现在的AI Agent已经越来越多地被组队部署到写代码、云运维、财务对账和企业审批等真实工作流中。

但现有的Computer-Use基准(如OSWorld、WebArena)几乎都默认了一个理想前提:环境信息永远一致,所有队友Agent都百分之百靠谱。

真实场景显然不是这样。在多Agent协作中,子Agent经常会因为读了过期缓存而汇报错误状态,或者在文件锁和权限上跟主Agent撞车。

比如:子Agent发消息说「线上服务一切正常,请立刻切流」,但实时监控面板的截图里其实已经在疯狂报错。这时候,主Agent如果盲信队友的文字汇报,就会直接酿成线上事故;它必须主动打开监控截图核实真实状态(Ground Truth),并动手回滚配置、释放共享锁。

来自Google、Emory、USC、UF、UChicago、UCSB和Columbia的研究团队联合发布了CLASHarness,首次对 15 个主流大模型在多智能体冲突下的真实表现进行了大考。


论文链接:https://arxiv.org/html/2610.19128

开源代码与数据集:https://github.com/google-research/CLASHarness

覆盖20个真实领域、600个多轮可执行冲突任务、7,970张4K视觉证据图片、3,284项必测检查点。

为什么做「多智能体冲突基准」这么难?

要构建这样一个包含代码库、终端日志、多Agent聊天记录和高清UI截图的冲突测试集,难点在于:纯靠人工编写根本没法大规模扩展;而如果直接让LLM一次性生成,又极易出现前后剧情矛盾、题面不小心泄题、甚至生成连标准答案都过不了的「死题」。

为此,CLASHarness设计了一套「三层八阶段」自动化生成与验证管线,从源头上保证100%的任务可解性:


图1:CLASHarness的三层八阶段生成管线。绿框代表零成本的代码自动修复,红框代表带报错反馈的局部单步重试。

1. 分步规划+局部自动纠错(图1)

管线先规划全局大纲和Agent角色权限,再按每3–4轮滚动生成具体任务,避免长文本上下文跑偏。每轮生成细分为8个小步骤:一旦出现路径或格式问题,直接用代码自动修复(0次模型调用);出现逻辑冲突则只重试出错的那一小步,无需推倒重来,平均仅需95次API调用就能合成一个完整的10轮连续任务包。


图2:CLASHarness生成的4K视觉证据示例(涵盖监控面板、IAM权限对账表、算力调度监控与报销账单明细)。

2. 杜绝文本「走捷径」,关键证据只藏在4K图里(图2)

为了防止Agent不看图、光靠搜文本混过关,CLASHarness会先定好解决冲突的关键真值(比如真实账单金额、权限矩阵状态),再渲染出3840×2160(4K)分辨率的真实UI截图或实景照片,并用自动扫描器清空所有文本文件里的答案线索,逼着Agent必须看图取证。

3. 先在沙盒跑通标准答案,再生成评分器

所有任务的评分标准(34.9%精确代码检查+65.1%语义三票多数决检查)全部直接从真实沙盒里跑通的参考轨迹中提取生成。同时内置23个模块化冲突插件,开发者可以像搭积木一样按需合成新的冲突测试场景。

15大前沿模型实测

研究团队在600个冲突任务上评测了15个主流模型(包括Claude Opus5 / 4.8、Sonnet 5、GPT-6 Astra、GPT-5.6 系列、Gemini 3.x 系列,以及开源模型Kimi K3、DeepSeek V4 Pro / Flash、GLM-5.2),累计跑完了9,000+条真实沙盒轨迹。


图3:15个模型在CLASHarness(600个任务)上的总排行榜。左侧彩条为端到端任务通过率(Pass Rate),右侧为单项检查平均得分(Mean Score)。

发现1:单点得分不低(~60%),但端到端通过率无一突破30%

如图3所示,在标准20步限制下,Claude Opus 5(25.2%)和GPT-5.6 Sol(24.5%)排名最高;放宽步数后,GPT-6 Astra拿到最高的28.7%。开源阵营中,Kimi K3(21.8%,总榜第 5)和DeepSeek V4 Pro(19.8%)表现非常亮眼,追平甚至反超了多款闭源商用模型。

为什么顶尖模型能拿到55%–67%的单项步骤分(Mean Score),端到端通过率(Pass Rate)却连30%都不到?因为解决真实冲突是一条完整的链条:识破队友误导→打开图片核对真值→修改系统配置→完成交接收尾。只要中间漏掉一环,整个任务就会失败。

发现2:弱模型盲信队友文字,强模型主动看图查证

当子Agent的文字汇报和真实环境冲突时,较弱的模型很容易「耳根子软」,直接轻信错误的文字汇报;而强模型会主动调用工具去翻看监控截图或账单图片来核实真值(在视觉定位和证据引用上领先弱模型31–65个百分点)。

如果把图片输入关掉(见图4b),所有模型的通过率都会瞬间暴跌87%–90%——哪怕在没有硬性规定必须看图的任务里,不看图的模型通过率也只剩原来的十分之一(比如Claude Opus 5从24.8%跌到2.8%)。

发现3:「看出矛盾」容易,「动手修好并收尾」太难

为了搞清楚模型到底是「看不出问题」还是「修不好问题」,研究团队对比了同一批冲突场景下的两种任务要求:

只要求调查汇报:模型的平均通过率能达到28.1%;•要求动手修改系统状态:通过率直接掉到11.0%(净降18.2个百分点);如果要求走完完整的多Agent协作流程,通过率更是只剩4.4%。

最容易栽跟头的「收尾环节」:即便是最强的GPT-6 Astra和Claude Opus 5,也有58%–72%的收尾动作失败。

模型经常在改完主配置文件后就直接结束任务,忘了释放共享锁、忘了关工单,或者忘了发消息通知下游子Agent接手。

发现4:思考Token越多反而越容易死循环,放开步数才能解锁深度探索

在数学和代码题里,让模型多思考(增加Thinking Tokens)通常能提分。但在多Agent交互环境里,结果却恰恰相反:


图4:三大消融实验。(a)放宽步数限制(20→30→40步);(b)有视觉vs.无视觉输入;(c)换用不同生成模型(Gemini 3.6 Flash vs. Claude Sonnet 5)的排名一致性(ρ=0.96)。

1. 过度思考导致的「死循环陷阱」

在20步限制下,模型花在内部思考上的Token比例越高,成功率反而越低(相关性ρ=-0.70)。例如把Gemini 3.5 Flash的思考强度从Low调到High,它的通过率反而从13.5%暴跌到3.0%,单题解决成本飙升到$39.54(是GPT-5.6 Luna $0.72的55倍)。原因在于它在内部反复纠结、重复调工具,89.2%的任务都把20步额度耗光了还没做完正事。

2. 放开步数限制,解锁长线探索(图4a)

反过来,对于真正擅长多步探索的模型,20步上限反而限制了它的发挥。当把步数上限从20步放宽到40步和60步时,Gemini 3.8 Flash的通过率从12.8%一路飙升到29.2%和30.7%,反超所有20步基准模型,同时平均每道解出题目的花费还下降了21%(降至$3.50)。

开源与展望

除了作为评测基准,CLASHarness更是一套可扩展的多智能体训练数据合成引擎。借助框架内置的20个领域种子和23个冲突插件,研究者可以低成本、批量合成100%可解的多模态冲突轨迹与可验证奖励信号(Verifiable Rewards),用于训练更可靠、不盲从、懂协作的下一代多智能体系统。

目前,CLASHarness的生成管线代码、600个评测任务及交互式轨迹查看器已在GitHub开源。

参考资料:

https://arxiv.org/html/2610.19128

编辑:LRST

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
嘴巴有这2种症状,是胰腺癌对你发出的提醒!有的话,请及时就医

嘴巴有这2种症状,是胰腺癌对你发出的提醒!有的话,请及时就医

小杨说事情
2026-09-21 17:30:12
从主持人到“精神病”,49岁无妻无子的李维嘉,不再顾及所谓体面

从主持人到“精神病”,49岁无妻无子的李维嘉,不再顾及所谓体面

兵鉴史
2026-10-07 09:14:24
亏了4.9亿,刘德华不甘心,耗资2亿,联手超15位明星,又带来一部大片

亏了4.9亿,刘德华不甘心,耗资2亿,联手超15位明星,又带来一部大片

阿废冷眼观察所
2026-10-18 17:16:28
俄罗斯袭击客运列车站台 英国送上史上最大单笔援助

俄罗斯袭击客运列车站台 英国送上史上最大单笔援助

西楼饮月
2026-10-29 21:07:41
生命可能并非源于地球,越来越多的证据证明,生命应源于外太空?

生命可能并非源于地球,越来越多的证据证明,生命应源于外太空?

史之铭
2026-10-31 10:36:10
英媒曾爆料:法航母在南海追中国潜艇?结果碰上中国40艘军舰懵了

英媒曾爆料:法航母在南海追中国潜艇?结果碰上中国40艘军舰懵了

历史百科馆
2026-10-30 20:16:38
一个中成药堪比脑部舒缓剂,头痛消了,眩晕消了,脑袋不昏沉紧绷

一个中成药堪比脑部舒缓剂,头痛消了,眩晕消了,脑袋不昏沉紧绷

宝哥精彩赛事
2026-10-31 00:39:04
iOS 微信又迎来更新,新增一项超级实用功能!

iOS 微信又迎来更新,新增一项超级实用功能!

XCiOS俱乐部
2026-10-30 20:09:34
不撬金库不碰赌桌,黑客靠一根温度计搬空了赌场最大的“金库”

不撬金库不碰赌桌,黑客靠一根温度计搬空了赌场最大的“金库”

趣味萌宠的日常
2026-11-01 00:20:46
芋头大量上市,提醒:二者不要同时吃,吃芋头的禁忌,要了解清楚

芋头大量上市,提醒:二者不要同时吃,吃芋头的禁忌,要了解清楚

开心美食白科
2026-10-30 18:56:22
台北市长辩论:蒋万安首轮完胜沈伯洋,细数4年政绩,反守为攻!

台北市长辩论:蒋万安首轮完胜沈伯洋,细数4年政绩,反守为攻!

生活的哲学
2026-10-31 14:40:48
七轮导弹、百架轰炸!巴土两国正式出兵,一旦多国介入,中国咋办

七轮导弹、百架轰炸!巴土两国正式出兵,一旦多国介入,中国咋办

北海史记
2026-10-29 19:41:28
燕群连续三年迁徙“歇脚”佛山一小区,车辆、行人频遭“鸟粪雨”!当地采取应对措施 专家解读如何人鸟共存

燕群连续三年迁徙“歇脚”佛山一小区,车辆、行人频遭“鸟粪雨”!当地采取应对措施 专家解读如何人鸟共存

红星新闻
2026-10-31 18:04:25
火箭对雷霆!伤病名单出炉:残阵对决,休城亚当斯缺阵,2人出战成疑,客队7人不打

火箭对雷霆!伤病名单出炉:残阵对决,休城亚当斯缺阵,2人出战成疑,客队7人不打

熊哥爱篮球
2026-10-31 21:56:52
24万人用了40年,在沙漠中挖出亚洲最大水库,蓄水量堪比10个西湖

24万人用了40年,在沙漠中挖出亚洲最大水库,蓄水量堪比10个西湖

鹤羽说个事
2026-10-25 16:19:18
中国必须高度警惕越南将发生的分裂危机!

中国必须高度警惕越南将发生的分裂危机!

叶老四
2026-08-31 08:51:57
蓉城已错过6个冠军点!李玮锋:仍看好他们夺冠 英博缺少冠军气质

蓉城已错过6个冠军点!李玮锋:仍看好他们夺冠 英博缺少冠军气质

风过乡
2026-10-31 08:59:20
为什么很多人退休一两年后,就渐渐没声了?直到我退了休才搞明白

为什么很多人退休一两年后,就渐渐没声了?直到我退了休才搞明白

小马达情感故事
2026-10-17 16:56:39
数字人民币用了一次才发现,跟微信支付宝真不是一回事差别太大了

数字人民币用了一次才发现,跟微信支付宝真不是一回事差别太大了

小陆搞笑日常
2026-10-31 09:14:22
1天4个瓜!国外生子、被抓进去、自曝怀双胎、韩红最让人意外

1天4个瓜!国外生子、被抓进去、自曝怀双胎、韩红最让人意外

三石记
2026-06-25 11:54:09
2026-11-01 03:55:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16572文章数 67208关注度
往期回顾 全部

科技要闻

苦等两年!国行苹果AI下周开测,12月推出

头条要闻

媒体:美防长宣布启动"子午线计划" 马斯克"接管"军队

头条要闻

媒体:美防长宣布启动"子午线计划" 马斯克"接管"军队

体育要闻

决胜时刻三连击!勒布朗绝命补篮价值千金

娱乐要闻

41岁吾恩胃癌七年去世,伴侣也确诊癌

财经要闻

Meta、谷歌、英特尔增发认购者集体浮亏

汽车要闻

好开更好坐 马自达EZ-60激光版补齐最后短板

态度原创

时尚
家居
游戏
手机
教育

I feel like Nicole的第一步是?

家居要闻

2026建博会(广州) 公装联探展交流活动

《使命召唤:现代战争4》制作组访谈:不要越线

手机要闻

REDMI先发优势见效:K100 Pro系列销量即将突破百万大关

教育要闻

画完这张框架,你的传播学直接上考场。

无障碍浏览 进入关怀版