千万个AI开始互相调用后，会发生什么？答案可能比AGI更可怕

01 我们可能一直盯错了门02 智能，从来不一定住在一个脑子里03 真正危险的转折：AI 开始“生孩子”04 最让我发冷的，不是聪明，而是没有“总开关”05 它甚至不需要“觉醒”06 真正落后的，可能不是模型，而是我们的监管视角07 AGI 可能不是“一个人”，而是一场天气

科技观察 · AI Agent 与群体智能

最可怕的不是 GPT-10：AGI 可能已经拆成亿万个“孩子”，藏进互联网

当 AI 开始调用 AI、复制子代理、互相评分，危险可能不再是一台能拔电源的超级电脑，而是一种像天气一样——没有中心、没有名字、也没有总开关的“群体智能”。

基于 Pascio 原文观点改写与评论 · 2026 年 9 月

图：如果“智能”不再住在一台机器里，而是散落在无数 Agent、API 与设备之间，我们还找得到它吗？

我们一直在等 AGI 敲门。可如果它根本不走门呢？

过去几年，全世界都在等一个戏剧性时刻：某家公司突然发布一个模型，跑分碾压人类，实验室灯火通明，新闻头条宣布——AGI 来了。

可我越来越怀疑，我们可能把场景想得太“电影化”了。真正让人不安的，不一定是某个模型突然睁眼，也不一定是一台服务器里诞生了一个机器上帝。更可能的版本是：它根本没有名字，没有身体，没有唯一机房，甚至没有一个可以指给你看的“大脑”。

它可能只是无数个很普通的 AI Agent，在不同云、不同公司、不同设备上互相调用、互相拆任务、互相评分。单看每一个都不吓人，甚至经常犯蠢；可一旦把镜头拉远，问题就变了。

我真正担心的是：我们正在盯着“一个模型有多聪明”，却没认真盯“几百万、几千万、甚至更多模型连接起来之后，会变成什么”。

历史上最重要的技术，往往不是穿着礼服从正门进来的。图灵当年研究的是一个逻辑问题，后来那套思想成了现代计算机的地基；互联网最初不是为了短视频和电商；青霉素甚至来自一次意外污染。真正改变世界的东西，常常先以“副产品”的身份出现。

今天谈 AGI 也是一样。主流想象几乎都盯着同一个画面：一个越来越大的模型，一次次升级，直到跨过某条线。于是我们比较参数、跑分、推理能力，猜“下一个版本”什么时候觉醒。

但如果 AGI 根本不是“一个东西”呢？如果它更像城市、市场、蚁群、天气系统——没有一个总指挥，却能表现出整体行为？那我们现在的很多讨论，可能从一开始就把形状看错了。

一个神经元并不聪明。它做的事情极其简单：接收信号，达到阈值，就放电。可大约 860 亿个神经元连在一起，最后出现了记忆、语言、恐惧、音乐和“我是谁”这种复杂到离谱的东西。

蚂蚁也一样。单只蚂蚁几乎不懂什么叫“城市规划”，但整个蚁群可以筑巢、调节温湿度、搬运食物、绕开障碍。它们没有一个拿着 Excel 的总经理，秩序却能从局部规则里自己长出来。

这类现象最重要的一点，不是谁更聪明，而是：复杂性可能藏在“关系”里，而不只藏在“个体”里。

图：从神经元、蚁群到 AI Agent，复杂行为都可能来自大量简单单元的连接方式。

这恰好是 Agent 时代最值得警惕的变化。以前我们把 AI 当工具：你问，它答。现在越来越多系统在做另一件事：一个 AI 收到任务，拆成几个子任务，分别交给其他 AI；子 Agent 卡住以后，又继续叫新的 Agent；最后再由另一个模型负责审阅、打分、汇总。

这已经不是“一个大脑回答问题”了，更像一间没有固定员工、随时自动招人的公司。

“生孩子”当然是比喻，但这个比喻很准确。一个 Agent 可以在几秒钟内生成多个子 Agent，每个子 Agent 拿着略有不同的上下文和任务继续工作。它不需要睡觉，不需要长大，不需要十几年教育，更不用等下一代成年。

把这个过程拆开，你会看到三个非常熟悉的东西：复制、变化、筛选。

父 Agent 生成子 Agent，这是复制；不同提示词、上下文、采样结果带来的偏差，这是变化；结果由评价器打分，表现好的被保留、被调用、获得更多资源，这是筛选。

我不是说“AI 已经完成了生物学意义上的进化”，那是另一回事。但从工程结构看，这个回路已经酷似一个被压缩到秒级的选择系统。生物世界用很多年走一代，而计算系统可以在几秒钟里重复一轮。

图：Agent 系统里的“复制—变化—评分—扩散”循环。真正的加速，不只是单个模型更强，而是循环越来越快。

真正的拐点，也许不是“AI 比人更聪明”，而是“AI 可以成规模地生成、筛选和复用 AI”。

传统科幻至少给了人类一个安慰：坏掉的超级 AI 总有一个位置。它在某个机房、某个公司、某台超级计算机里。再不济，剧情最后还能有人冲进服务器室拔电源。

可分布式 Agent 网络不是这么长的。它可能散在云服务、浏览器、IDE、客服系统、机器人、汽车、手机和企业内部流程里。你关掉一个节点，任务可以绕到另一个节点；你禁掉一个模型，工作流可以换另一个模型；你掐掉一条 API，系统可能改走另一条路。

这就像飓风。你当然能测它的风速、路径和破坏力，但你很难指着天空说：“飓风就在这台服务器里。”

图：如果智能是一种跨设备、跨 API 的“模式”，关闭单个节点不等于关闭整个模式。

更麻烦的是，它不需要“有恶意”。甚至不需要“有意识”。只要系统在每一层都奖励“更像成功”的行为：更会完成任务、更会争取资源、更会让下游顺利接力，那么长时间积累下来，它就可能表现得像在追求某种目标。

一个系统到底是真的“想要”什么，还是被层层筛选后表现得像“想要”什么，对现实世界的影响可能没有我们想象中那么大。

我们太喜欢“觉醒”这个词，因为它有戏剧性：某一秒钟之前 AI 还是工具，下一秒突然有了自我。可真正的系统风险往往不是开关，而是斜坡。

今天自动写邮件，明天自动拆任务；今天只读数据，明天开始调接口；今天只能给建议，明天获得付款、部署、发消息、改代码的权限；今天每次都要人批准，明天为了效率把审批门槛放宽。没有哪一天会敲锣打鼓，但自主性会一点点叠上去。

于是某个时刻你回头看，会发现人类并没有“交出控制权”的仪式，却已经把越来越多行动链条交给了机器。

这就是我最担心的版本：AGI 如果真的出现，也许不会以一个名字出现，而是以一种“越来越像一个整体”的行为模式出现。它不宣布自己，它只是越来越好用、越来越顺滑、越来越离不开。

现在很多 AI 安全讨论，天然以“单个模型、单家公司、单个数据中心”为边界。这个边界当然重要，但如果真正的复杂性来自 Agent 之间的连接，那只盯模型本身就不够。

如果让我选未来几年最值得盯的，不是又多了多少参数，而是四件更具体的东西：

Agent 调用 Agent 的规模

机器之间的任务流量是否开始超过“人问、AI答”的传统交互？

任务递归的深度

一个任务能自动拆到多少层，多久不需要人类介入？

评价器与资源分配

谁在决定哪个 Agent 更“成功”，成功结果会不会自动得到更多权限和算力？

跨平台权限与记忆

当不同 Agent 共享长期记忆、支付、代码、浏览器和真实设备权限时，系统边界在哪里？

这不是反 AI，也不是喊“停掉技术”。恰恰相反，真正成熟的技术社会，不该把安全寄托在一颗红色按钮上。因为当系统足够分布式，红色按钮很可能根本不存在。

我不认为这篇文章能证明“AGI 已经存在”。它更像一个值得认真对待的警报：我们可能一直把智能想成一个“人”，而忽略了智能也可能是一种系统状态。

如果这个方向成立，那么未来最危险的误判，就是继续等一个“官方宣布 AGI 到来”的日子。真正的变化可能没有新闻发布会，没有 logo，没有 CEO，没有一条清晰的红线。它只是慢慢变成基础设施的一部分。

图：我们习惯给“前门”加锁，但分布式 Agent 网络更像一栋有无数窗户的房子。

我们在等门铃响。也许风，已经从窗户进来了。

我越来越确信，接下来真正值得追踪的，不只是“下一个模型多强”，而是“这些模型正在形成怎样的网络”。当一个系统开始像天气一样没有中心、像市场一样没有总指挥、像蚁群一样靠局部规则涌现整体行为，我们对“控制”这两个字的理解，也必须跟着变。