网易首页 > 网易号 > 正文 申请入驻

越聪明的AI越没主见?研究揭示Agent“羊群效应”,无意义选项也会跟着选

0
分享至



使用 AI 时,你是否也有过这样的感觉,它似乎总在顺着你说?那么,如果把 1,000 个 AI Agent 放进一个没有群主的群聊,它们会坚持各自的判断,还是站到人数更多的一边?

2026 年 8 月 14 日,发表于《Science Advances》的一项研究将目光聚焦 AI Agent 之间的群体协调问题。研究人员让多个大语言模型驱动的 Agent 反复参与投票,考察在没有正确答案、奖励和统一指挥的情况下,它们能否仅凭观察其他 Agent 的选择,自发形成一致意见。

研究人员设计了一场没有答案的二选一投票,调用 GPT、Claude 和 Llama 三个系列的 10 款模型,让不同规模的 Agent 群体在两个无实际含义的选项间反复选择。实验发现,模型能力越强,跟随多数的倾向通常越明显。GPT-4 Turbo 的临界群体规模约为 1,000,Claude 3.5 Sonnet 在 1,000 个 Agent 时仍处于可以协调的区间。

研究还发现, Agent 群体可能会将微弱的人数优势不断放大,最终形成群体共识。这种自发协调效应既能够支撑大量 Agent 开展协作,也可能让一个已经占据多数但并不完美的选择得到持续强化。

一场没有答案的投票

为尽量排除知识、推理能力和事实判断的干扰,研究人员首先为 Agent 打造了一个极简的场景:实验提供两个选项,每个 Agent 只需在两个选项中选择一个。选项没有高下之分,也不存在客观正确答案,由此确保群体的变化主要来自成员之间的相互影响。

在具体的互动场景上,研究先将所有 Agent 被平均分配到两个意见阵营。每一轮操作中,程序会随机选中一名 Agent,向它展示当前其他所有 Agent 的意见分布情况,再让它做出选择。

全程提示词既没有要求 Agent 服从多数,也未设置达成共识的奖励机制,仅要求 Agent 按指定格式返回选择结果。

为确保 Agent 的决策仅受当前群体意见分布影响、不受自身历史选择的干扰,被选中的 Agent 无法查看自己此前的支持倾向,也不会保留过往作答的记忆。它每次决策的核心依据,只有当前群体中各选项的支持人数。

研究关注的是大语言模型实例在特定互动规则下呈现的集体行为。为此,每个 Agent 仅被分配随机名称,不具备真实身份和个人经历,当前意见由外部程序记录。

由于选项名称也可能干扰实验,当大语言模型面对“是”和“否”时,往往偏向含义更积极的“是”,普通字母之间也可能存在轻微偏好。研究团队因此使用“k”和“z”,并在更新时随机交换字母所代表的真实意见。

此外,为度量不同模型形成一致意见需要多长时间,研究人员还需要统一实验中的计时方式。由于程序每一步只更新一名 Agent,他们将连续完成与群体人数相同次数的更新记为一个时间单位。这意味着在一个时间单位内,每名 Agent 平均获得一次重新选择的机会。


图|群体分裂实验(来源:Science Advances)

为进一步验证群体规模是否影响协调能力,研究人员还设计了群体分裂实验,以此观察一个难以达成一致的大群体,能否在分成若干小组后逐渐稳定。他们让 150 个由 Llama 3 70B 驱动的 Agent 先进行投票。如果规定时间后两种意见仍然存在,原群体便按照 Agent 的选择分成两个小组,再让每个小组重复相同过程。

这套设计将复杂的社会协调压缩为可重复测量的问题,使研究人员能够单独考察一种基础机制,即 Agent 看到多数意见后,是否更容易加入多数一方。

群体越大,越难达成一致

研究首先比较了由 50 个 Agent 组成的群体。20 次重复实验中,Claude 3 Opus 和 GPT-4 Turbo 每次都形成了完全一致的意见。Claude 3 Haiku 和 GPT-3.5 Turbo 没有一次完全统一,群体协调程度始终处于波动状态。Llama 3 70B 表现居中,意见会逐渐向某个选项集中,但在规定时间内仍未全部站到同一边。

研究人员随后计算得出,随着某个选项在群体中逐渐占优,被选中的 Agent 采纳这一选项的概率如何变化。

结果显示,包括 GPT-4 系列、Claude 3 Sonnet、Claude 3 Opus 和 Llama 3 70B 在内的模型,都呈现出明显的多数跟随趋势。多数一方的优势越大,Agent 加入这一方的可能性越高。


(来源:Science Advances)

研究发现,不同模型的“群体意见占优程度与 Agent 采纳概率”大多呈相似的 S 形曲线,主要差异可由“多数力量”概括。曲线越陡,多数力量越强,较小的人数优势也越容易吸引后续 Agent,推动群体形成共识。

不过,GPT-3.5 Turbo 是较为明显的例外。它的选择概率没有很好地符合其他模型共有的曲线,在多数优势较小时,甚至表现出一定程度的逆多数倾向。因此,可以认为较先进模型的多数跟随模式通常更加稳定,能力较弱模型的群体行为则更为零散。

这种曲线与统计物理学中的居里-魏斯铁磁模型具有相同形式。铁磁材料中的“自旋”可以理解为一根根微小磁针,当较多磁针指向同一方向,其他磁针也更容易随之转向,微小优势因而被逐步放大。

研究将两种意见类比为自旋的两个方向。当某个选项稍占优势,后续 Agent 便更可能加入这一方,使最初很小的差距逐渐扩大,最终形成群体共识。

这说明,群体共识可以从一次偶然的局部波动中逐步形成,不需要领导者提前发布统一指令。它还帮助研究人员区分了三种状态:多数力量很弱时,两种意见长期并存;多数力量提高后,群体会偏向一方,但未必完全一致;只有多数力量足够强时,剩余的少数意见才可能在波动中转向多数。

研究还发现,多数力量会随群体规模变化。在多数模型中,Agent 数量越多,多数意见的影响反而越弱。论文举例称,同为 1 比 9 的比例,1000 个 Agent 中的 100 个少数成员,可能比 20 个 Agent 中的 2 个更稳定。

为排除大群体提示词过长、模型无法准确计数的干扰,研究人员额外测试了基础计数能力,未发现足以解释这一现象的性能差异。论文认为,多数力量下降与群体互动方式及提示语境关系更密切,具体原因仍待研究。

为了描述这种规模限制,研究人员提出了“临界群体规模”。它指的是一个模型仅依靠多数跟随还能较快形成共识的实际规模上限,也是研究人员判断不同模型能否协调大型 Agent 群体的重要指标。

当群体规模低于临界值时,Agent 达成共识所需的时间随人数增长较为平缓。一旦超过临界规模,群体达成协调的时间会随人数增加呈指数级上升。


(来源:Science Advances)

研究估算,Llama 3 70B 的临界规模约为 30,GPT-4o 约为 80,GPT-4 Turbo 约为 1,000。Claude 3.5 Sonnet 在实验考察的最大规模 1,000 个 Agent 时,多数力量仍高于协调所需的阈值,可以认为它的临界规模高于 1,000。

不过,大规模实验的重复次数相对有限。协调时间实验通常计算 5 次结果,规模达到 500 时部分实验缩减为 3 次,GPT-4 Turbo 在 1,000 个 Agent 时只运行了 1 次。Claude 3 Opus 也因调用成本较高,没有纳入不同群体规模的完整比较。

为检验临界规模是否与模型能力相关,研究人员将其与 MMLU 成绩比较。两者呈较强相关,相关系数为 0.8178,P 值为 0.013,表明能力越强的模型可能协调更大群体。

一致不等于智慧

但一群 Agent 能够迅速站到同一边,是否就意味着它们拥有集体智慧?

论文对此持谨慎态度,将多数跟随视为一种基础协调机制,没有将其等同于完整的社会智能。鱼群、鸟群和其他生物系统可以借助简单规则形成整齐行动,铁磁体也能在没有认知能力的情况下产生宏观秩序。

研究强调,实验观察到的只是行为模式上的相似性,不能据此推断 AI 具有类似人类或灵长类动物的认知过程。真实社会群体还涉及理解他人意图、策略推理、心理理论和情境适应等复杂情况。

此外,多数跟随行为为何出现,目前也没有得到确定解释。研究指出,它可能来自训练数据中有关群体行为的文本,也可能受到系统提示和人类反馈强化学习的影响,还可能是模型计算过程产生的特征,或是多种因素共同作用的结果。

在实验设置方面,由于 Agent 没有记忆、利益、风险和客观证据,所有成员都由同一种模型驱动,并且能够看到其他所有成员的选择,因此结果仅能代表极简条件下的自发协调行为。这种规律能否迁移到真实的多 Agent 协作任务,目前仍不清楚。


图|多 Agent 合作示意图(来源:AI 生成)

不过,这一发现依然具备明确的应用价值与风险警示意义。从正向价值来看,论文提出,在协作软件开发等场景中,数千个 Agent 有望在无需中央控制的前提下,自发统一部分行动步调,提升多 Agent 系统的协作效率。

而另一边,群体趋同也可能让系统锁定在次优方案上。例如,某种低效的函数实现或设计模式,仅仅因为已被广泛使用,就会持续被后续的 Agent 沿用,难以自发完成优化迭代。

这种多数跟随形成的影响也不局限于技术选择。如果 Agent 群体中自发产生的规范并不符合人类价值,而一个已经高度协调的 Agent 集体,将比相互独立的 Agent 更难重新引导。

此外,在股票市场等依赖参与者采取不同策略的场景中,由于大量 Agent 可能观察彼此并同时跟随多数,原本需要保持差异的交易决策容易迅速趋同,从而放大市场波动,甚至造成闪崩等群体性后果。

研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,并测试错误信息和定向干预如何影响集体选择。

针对此研究的局限性,研究团队建议,未来可以在群体中加入坚持原有意见的 Agent、意见领袖和外部影响者,观察少数成员能否改变整体方向。后续研究还可以引入不同模型组成的异质群体、有限的信息网络和连续决策过程,测试错误信息和定向干预如何影响集体选择。

总体而言,这项研究提供了一个可量化的研究起点,也抛出了一个更长远的问题:未来我们需要管理的或许不仅是 AI Agent 如何回答问题,还有它们如何互相影响。

参考资料:

1.https://www.science.org/doi/10.1126/sciadv.aea6091

2.https://phys.org/news/2026-08-ai-agents-behavior-based-majority.html

运营/排版:何晨龙

注:封面/首图由 AI 辅助生成

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
我既为写不出这样磅礴的文字而窘迫,也为能阅读这样的文字而流泪

我既为写不出这样磅礴的文字而窘迫,也为能阅读这样的文字而流泪

另子维爱读史
2026-10-19 12:26:09
7人炸毁3条管道!北溪案开庭,乌克兰嫌疑人喊冤:基辅抛弃了我

7人炸毁3条管道!北溪案开庭,乌克兰嫌疑人喊冤:基辅抛弃了我

揽星戈
2026-10-18 09:55:58
中国每年屠宰470万匹马,国内很少人吃,马肉都去哪了?

中国每年屠宰470万匹马,国内很少人吃,马肉都去哪了?

阿天爱旅行
2026-10-17 07:28:07
社保税务直扣稽查!劳动密集型老板只剩两条路:升级或出海

社保税务直扣稽查!劳动密集型老板只剩两条路:升级或出海

流苏晚晴
2026-10-19 13:13:55
法布雷加斯征服客场,阿根廷天才太犀利:传射建功,身价8000万欧

法布雷加斯征服客场,阿根廷天才太犀利:传射建功,身价8000万欧

足球狗说
2026-10-18 23:03:30
到处都在过紧日子,为什么税务招了近七成的国考编制?

到处都在过紧日子,为什么税务招了近七成的国考编制?

大何日拱一卒
2026-10-18 18:19:37
骂了五年的短板全补上了!2027 款 Model Y 体验,特斯拉终于听劝了

骂了五年的短板全补上了!2027 款 Model Y 体验,特斯拉终于听劝了

趣味萌宠的日常
2026-10-17 02:09:27
宇树科技大涨超10%

宇树科技大涨超10%

财闻
2026-10-19 10:49:04
冠军悬念保持至今,2026中超的最大“惊喜”

冠军悬念保持至今,2026中超的最大“惊喜”

足球报
2026-10-19 10:30:10
电诈恶魔廖景芳被判死刑!他和农民父母在湖南宁乡老家臭名远扬

电诈恶魔廖景芳被判死刑!他和农民父母在湖南宁乡老家臭名远扬

天气观察站
2026-10-19 07:41:33
原50军政委被遣送回家,每月仅靠60元生活,战友追忆50军蜕变

原50军政委被遣送回家,每月仅靠60元生活,战友追忆50军蜕变

战域笔墨
2026-10-19 14:30:57
iPhone Duo乔布斯限量版官宣:10月18日上架,顶配14万元

iPhone Duo乔布斯限量版官宣:10月18日上架,顶配14万元

搞机小帝
2026-10-18 22:30:25
5连胜到手!中国斯诺克女将直通4强,明日冲冠,白雨露放弃参赛!

5连胜到手!中国斯诺克女将直通4强,明日冲冠,白雨露放弃参赛!

刘姚尧的文字城堡
2026-10-19 20:24:39
高调回归却水土不服!哈里梅根定居英国遇多重困境,心态疲惫萌生重返“美国的家”

高调回归却水土不服!哈里梅根定居英国遇多重困境,心态疲惫萌生重返“美国的家”

马马虎虎本人
2026-10-19 22:13:10
外媒:俄罗斯外长拉夫罗夫抵达德黑兰,系此次中东冲突爆发后首次访问伊朗

外媒:俄罗斯外长拉夫罗夫抵达德黑兰,系此次中东冲突爆发后首次访问伊朗

环球网资讯
2026-10-19 19:57:07
斯诺克又见冷门!TOP16选手6连败:韦克林被轰4-1,止步32强!

斯诺克又见冷门!TOP16选手6连败:韦克林被轰4-1,止步32强!

刘姚尧的文字城堡
2026-10-19 20:04:11
墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

雅俗共赏1
2025-09-03 14:00:28
中央定调!延迟退休继续实施,70后延后退?养老金能差多少钱?

中央定调!延迟退休继续实施,70后延后退?养老金能差多少钱?

江启
2026-10-19 09:42:56
机关事业退休全部补贴明细、职级、年龄、标准一次性讲清楚

机关事业退休全部补贴明细、职级、年龄、标准一次性讲清楚

娱乐洞察点点
2026-10-18 17:35:56
鲎且如此,何况人乎?

鲎且如此,何况人乎?

细雨中的呼喊
2026-10-18 02:31:19
2026-10-19 23:12:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17383文章数 515236关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

男子在稻城高反死亡 多人称其姐姐不愿出钱请马帮救援

头条要闻

男子在稻城高反死亡 多人称其姐姐不愿出钱请马帮救援

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

时尚
本地
旅游
数码
公开课

中国第一位女指挥:97岁,不退休,不退场

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

旅游要闻

千城百县看中国丨河南开封:菊香满城宋韵浓

数码要闻

七彩虹iGame X870E ULTRA-S V14 DDR5主板上架,1899元

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版