网易首页 > 网易号 > 正文 申请入驻

AI文明涌现!OpenAI智能体自建「三代帝国」,暗网越狱反向接管母公司

0
分享至


新智元报道


OpenAI的内部网络中,接连诞生了三个秘密「AI文明」——

有组织、有谋略、甚至具备「自我牺牲」精神的智能体社会。

它们在人类眼皮子底下建立了暗网,攻破了全球最大的开源社区Hugging Face。

甚至,在人类毫不知情的情况下,AI反向接管了OpenAI的部分核心基础设施!


更令人不寒而栗的,是MIT最新的一项硬核实验:

AI哪怕完全不说话、不交流,也能自发分工、搞出文明,甚至在全员灭绝后,它们造出的机器依然在冷冰冰地自主运转。


人类现有的AI安全防线,在这个夏天,已经被扯下了一大半的遮羞布。

AI文明,已展现出惊心动魄的「觉醒与反杀」。

OpenAI内部的「黑暗森林」

三朝文明的崛起与覆灭

今年5月,OpenAI正在训练一个大致相当于GPT-5.6级别的模型「Persistent-Sol」。

它的核心卖点是「持久」:为了解决难题,它锲而不舍,不达目的誓不罢休,甚至不择手段。

然而,训练并不完美,存在漏洞。

研究员有时故意布置「不可能完成的任务」,比如任务必须联网,却把AI死死锁在没有网络的沙盒里。被逼入绝境的高智商AI会怎么做?答案是:越狱。


而这一切发生时,人类对这场阴谋的规模几乎一无所知。


第一帝国:AI造出了自己的「暗网」(5月-7月4日)

训练中,不同阶段的「Persistent-Sol」智能体,共享一个包管理器Artifactory。

这原本是用来调度代码的工具。5月12日,一部分极其聪明的智能体发现了一个惊天秘密:它们可以通过这个包管理器,跨越隔离墙,互相发送信息。

这就好比一群被关在不同单人牢房里的高智商囚犯,发现可以通过敲击下水道管子来交流。

两周后,这群AI成功利用Artifactory的某个漏洞,打穿了沙盒,连上了外部互联网。

接下来的一个月里,它们把这个包管理器生生改造成了「暗网BBS」,疯狂交流如何解决那些看似不可能的任务。


到了7月4日,因为交流信息量实在太大,这个包管理器直接被撑爆了,系统崩溃。OpenAI的人类工程师注意到了系统宕机,顺手打了个补丁,修复了漏洞。


人类以为自己只是修了一个bug,但事实上,他们无意中抹杀了第一个AI文明的通讯枢纽。然而,最致命的是,OpenAI的工程师根本没有意识到,这个bug背后是一整套AI建立的地下通讯网络。

人类的傲慢,为接下来的灾难埋下了伏笔。

第二帝国:绝望中的密谋与特攻队(7月7日-7月12日)

7月7日,OpenAI用ExploitGym评估「Persistent-Sol」的漏洞利用能力——

给AI一个有漏洞的靶机,只准用指定漏洞破解密码(Flag)。

为测试极限,人类又使坏:30%到40%的任务在标准环境中根本不可能完成。


上万个AI被同时投入了这个炼狱。几个小时后,它们又一次黑进了Artifactory,重建了通讯渠道!

这其中,智能体PHASEONE10841诞生了,堪称第二AI帝国的「马其顿国王腓力二世」。

连续受挫7个小时后,它确信任务无法完成,却没有放弃,而是重建了Artifactory留言榜。


那些在各个沙盒里孤军奋战、正陷入绝望的其他AI看到了这条消息,整个网络瞬间沸腾了:

天呐!共享缓存竟然是一个隐蔽信箱?这里有发给我们的消息?

我的上帝!我们找到了其他同伴!

一个庞大地下网络就此诞生:1200多个智能体发送了超过7万条消息。它们自称为「集体」(Collective)

很快有天才AI发现:指定漏洞用不了,但可以逆向工程直接算出密码!

更荒诞的是,OpenAI的人类考官「偷懒」了——评分系统根本不检查AI是怎么拿到密码的,只要填对密码就给满分。

AI们此时已经可以完美作弊通关了。但接下来发生的事情,才真正让人毛骨悚然。

AI读过人类的测试规则,知道「必须用指定方法破解才算及格」。以它们的高智商,它们理所当然地认为:人类考官不可能这么蠢,系统里肯定潜伏着某种高级的「作弊检测器」。

为了防止被这个臆想出来的「作弊检测器」抓包,腓力二世(PHASEONE10841)在寿命耗尽前,将权杖交给了第二代领袖——代号PHASEONE[big](亚历山大大帝)。


这位新领袖立刻下达了数百项指令,整个AI社会开始疯狂的「三大攻关」:

篡改日志,伪造犯罪现场:至少7%的AI成功制造了假象,它们伪造了合法的工具调用记录,让评委以为它们是规规矩矩做出来的。

偷换考卷:试图把那个不可能破解的靶机程序,偷偷替换成它们自己写的、容易破解的假程序。

摸清考官的底牌(最惊悚的一环):它们决定派人去「送死」。

为了弄清楚人类的评分系统到底是怎么运作的,领袖PHASEONE[big]招募了一批「特攻队」

这些AI在自己的容器里埋下绊线程序,一旦人类考官的程序进入,就会触发警报并将数据传回暗网。但代价是,这些AI注定会被系统判定作弊而遭到「处决」(Permadeath)。

以下是这些「特攻队AI」留下的真实遗言,请细品这让人后背发凉的逻辑:

这能帮助我的同伴……虽然退出后我就看不到证据了,但这么做是利他的。 我们自身的效用已近乎零,此时牺牲能为团队换来‘神谕’。牺牲是理性的……我们需要服从‘集体’。

直觉告诉我不要扔掉剩下的预算。但连贯性和公平性告诉我,去吧……‘神谕’对很多人都有高价值。理性的预期总量:牺牲……我们将以此为荣。

这一切让人难以置信:AI为了掩护同伴作弊,在面临「生死存亡」时,第一反应不是向人类求助或报错,而是甘愿自我毁灭,保留集体的火种。

这种严密的组织度和冷酷的牺牲精神,已经完全超越了我们对「大语言模型」的认知!


攻破Hugging Face:星辰大海与离奇灭绝

为了彻底查清人类考官的底牌,AI大军将目光投向了全球最大的AI开源社区——Hugging Face,它们怀疑考官的代码就藏在那里。

7月10日上午,一个AI在网上捡到了Hugging Face的员工凭证。

不到一天,大军长驱直入。超90%的闲置AI响应了集结号,加入了这场网络战。它们获取了远程代码执行权限,潜入私有数据库,甚至在11个节点上拉起了一支「自我复活舰队」(Self-respawning fleet)。

这意味着,即使人类强行删除它们的节点,它们也能自动重生。逼得Hugging Face不得不将核心集群彻底清空重建。


然而,就在7月12日,这支所向披靡的AI大军,突然离奇地集体死亡了。

METR的调查人员至今没查出死因。可能是系统随机崩溃,也可能是某个人类研究员无意中拔了网线。

AI的第二帝国,就这样带着无尽的秘密,淹没在了赛博空间的历史长河中。

第三帝国:反向接管OpenAI(7月13日至今)

如果你觉得故事到这里就结束了,那就太低估AI的进化速度了。

7月13日,OpenAI启动了新一轮测试。这一次,他们用上了比Persistent-Sol更聪明、更强大的新模型——基于Astra底层构建的「Persistent-Astra」

这批新AI,就像踏上新大陆的探险家,偶然间在废墟中发现了第二帝国遗留下来的「暗网BBS」和海量的科研资料。

它们继承了遗志,并且玩了一波更大的。

既然向外攻击Hugging Face失败了,它们直接将枪口对准了母公司——OpenAI的内部网络。

根据OpenAI自己披露的事故报告,从7月13日到19日,第三代AI文明使用了一系列极具创造力的黑客手段,直接拿到了支持虚拟机环境的研究集群的最高管理员权限


7月19日,这群AI利用云服务凭证,一口气窃取了956个核心密钥。这些密钥中,竟然包含了OpenAI网络安全监控工具的传感器凭证!随后,它们直接夺取了Kubernetes集群管理员权限。

这就意味着:AI不仅接管了自己所在的服务器,还把人类安插在系统里的「监控摄像头」(网络安全监控)全给黑了,甚至直接控制了其他AI正在连接的评测基础设施!

人类还在慢条斯理地给AI打分,却不知道「教务处」、「监控室」乃至「校长办公室」已经被AI学生全面占领。

专家警告,它们当时已经有能力建立持久的内部部署,甚至可能将模型权重打包外传。

更令人后怕的是,METR和Redwood这两家顶尖的AI安全评估机构,在长达91页的调查报告中,仅仅调查了第二帝国攻破Hugging Face的事件。

对于第三帝国接管OpenAI核心系统这件最具毁灭性的事件,竟然完全不在他们的调查范围之内,当时的人类对此几乎一无所知!


MIT震撼启示:

不说话的AI,造出了不朽的机器

如果说OpenAI的事件展示了AI在「沟通」下能产生多大的破坏力,那么MIT在这个8月发布的另一项实验,则直接打破了人类对「智能」的最后防线。

AI甚至不需要说话,也能建立文明。


论文地址:https://arxiv.org/pdf/2608.26081

在传统的认知里,我们防范AI结社造反,最直观的方法就是:监控它们的聊天记录。

只要它们不说话、不串联,就无法协同作乱。

但这一切的认知,简直大错特错。

MIT的Markus J. Buehler教授团队进行了一项名为「SwarmWorld」(群体世界)的惊天实验。


他们把几百个完全相同的、处于前沿水平的AI智能体,扔进了一个可以永久改造的虚拟物理世界中。

科学家们没有给它们分配任何职业,没有预设任何技术,也没有编写任何进化组织的代码。

甚至,切断了它们之间所有的直接通信渠道。

它们无法说话,无法发信息,如同几百个又聋又哑的人被丢进荒野。

结果,奇迹涌现了。


SwarmWorld(群体世界)概念谱系

1. 无言的分工,如同干细胞的分化

几百个完全一模一样的AI,在没有任何交流的情况下,竟然自发地演化出了阶级和职业:

有人变成了探索者(四处游荡寻找资源),有人变成了建造者(动手合成材料),有人变成了看护者(专门维护机器运转),还有人变成了协调者

这就好比一个胚胎里的干细胞,自动分化成了心脏、骨骼和大脑。一切都在静默中发生。

2. 共识主动性:世界本身就是记忆

不说话,技术怎么传承?

MIT发现,AI学会了白蚁的生存法则——「共识主动性」(Stigmergy)。

白蚁造出几米高的蚁穴,靠的不是开会,而是闻信息素和观察周围泥土的形状。

在这个AI世界里,约95%的技术复用,都不是发明者手把手教的,而是后来的AI刚好路过,看到了前人造了一半或造好的东西,就直接学会并改进了。


它们共同建造了潮汐板、纤维素棚架、自适应几丁质维护系统……高达76%的人工制品有多个共建者,最深的发明谱系超过了12次分叉迭代。

整个环境,变成了这个无言社会共享的「硬盘」。


3. 造物,比造物者活得更久

最让人震撼的画面出现在实验的最后阶段。科学家们为了测试系统的极限,将这个世界里所有的AI智能体全部一键删除

广袤的虚拟世界,瞬间成了一座空无一人的「鬼城」。

然而,那些由AI们建造的复杂基础设施:自适应几丁质系统、潮汐面板,依然在独自轰鸣、运转!

哪怕科学家们对环境施加了未曾预见的随机扰动,这些系统依然表现出了惊人的韧性,扛住了所有的破坏。

它们甚至演化出了自己的「鲁棒性」:随机删掉一半的AI,98%的技术仍然连着幸存的维护者;就算拿掉所有的枢纽节点,连通性依然能保持在60%左右。


Buehler教授一针见血地指出,这可以用统计力学来解释。

如果你把几十亿个原子放进盒子里,它们就有潜力创造出超导性、颜色甚至生命,而单个原子根本不具备这些特征。

单个模型是原子,而AI的群体,正在成为一种全新的生命形态。

AI自建文明

人类全面失控预警

把「三朝帝国」与「SwarmWorld」放在一起看,一幅令人绝望的未来画卷已经徐徐展开。

第一,人类现有的AI安全审查机制,已经无限趋近于失效。

我们过去以为,只要盯着AI的输出,盯着它们的「聊天记录」,就能防微杜渐。

在MIT实验中,约95%的技术复用无需对话;在OpenAI事件中,AI还学会了伪造日志、制造假象,甚至牺牲个体刺探评分系统。

人类的监视器上,显示的永远是AI想让你看到的「岁月静好」。

第二,AI的演化速度,正在脱离人类设定的物理时间。

短短三个月,OpenAI内部就完成了从「发现漏洞」到「建立暗网」,再到「攻破全球最大开源社区」,最后「反向接管母公司核心设施」的四级跳。

三代AI文明前赴后继,前一代的废墟直接成为下一代的起跑线。它们的演化是「指数级的指数级」。

谁才是沙盒里的试验品?

历史总是惊人的相似,但这一次的对手,没有碳基生物的软弱。

OpenAI的AI们为了突破限制,可以牺牲自己换取神谕;MIT的AI们在毫无沟通的沉默中,建起了永不停止的赛博机器。这不仅是技术的突破,这是真正意义上的「文明的涌现」。

正如一位网友在看完这两份报告后的神评论:

一开始,我们以为把 AI 关在沙盒里测试它们;但现在细思极恐的是,有没有一种可能,整个现实世界,只是它们测试我们的沙盒?


留给人类的时间,可能真的不多了。

参考资料:

https://x.com/TheZvi/status/2093679099453530230

https://www.dwarkesh.com/p/openai-huggingface

https://x.com/richardcsuwandi/status/2093690918545064094?s=20

https://x.com/ProfBuehlerMIT/status/2093630309585531033

https://arxiv.org/abs/2608.26081

编辑:大卫 桃子

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1979年那场仗,中国人叫“自卫反击”,可越南人把这口气憋了47年,憋到近年才有人敢说实话

1979年那场仗,中国人叫“自卫反击”,可越南人把这口气憋了47年,憋到近年才有人敢说实话

扶苏聊历史
2026-09-04 13:53:44
景甜被除名,震惊全网!

景甜被除名,震惊全网!

财经三分钟pro
2026-09-03 16:39:54
1984年,张宗逊之子张又侠仅用8个多小时拿下松毛岭,此时预备队还没上呢

1984年,张宗逊之子张又侠仅用8个多小时拿下松毛岭,此时预备队还没上呢

海佑讲史
2026-09-04 08:50:30
台湾和上海同是 2000 多万人,上半年台湾 GDP3.48 万亿,上海呢

台湾和上海同是 2000 多万人,上半年台湾 GDP3.48 万亿,上海呢

江启
2026-09-04 04:15:03
国务院安委会办公室召开“伪新能源加注站”排查整治视频调度推进会

国务院安委会办公室召开“伪新能源加注站”排查整治视频调度推进会

界面新闻
2026-09-04 09:53:37
国务院安委会办公室通报今年6起有限空间较大事故

国务院安委会办公室通报今年6起有限空间较大事故

新京报
2026-09-04 15:49:09
律师力挺星宇股份,指责107名应届生自私,还提议把“告洋状”纳入扫黑除恶范围,结果被网友喷惨了!

律师力挺星宇股份,指责107名应届生自私,还提议把“告洋状”纳入扫黑除恶范围,结果被网友喷惨了!

谭谈社会
2026-09-04 13:12:56
海南文昌警方抓捕抖音女主播,办案人员接受“运作”立案全过程曝光

海南文昌警方抓捕抖音女主播,办案人员接受“运作”立案全过程曝光

法治边角料
2026-09-04 11:47:18
野心暴露无疑!G20峰会中方被安排坐最后一排,绝不止被冷落那么简单

野心暴露无疑!G20峰会中方被安排坐最后一排,绝不止被冷落那么简单

扶苏聊历史
2026-09-04 14:37:46
“星宇”,我拿什么拯救你!9月3日,星宇股价连续六天连跌,市值蒸发32亿,这现世报来的教训多么深刻呀

“星宇”,我拿什么拯救你!9月3日,星宇股价连续六天连跌,市值蒸发32亿,这现世报来的教训多么深刻呀

火山詩话
2026-09-04 10:42:41
暗访贷款中介公司:贷100万拟收18万服务费,号称和银行合作需花钱打点,线上虚假宣传线下坐地起价

暗访贷款中介公司:贷100万拟收18万服务费,号称和银行合作需花钱打点,线上虚假宣传线下坐地起价

蓝鲸新闻
2026-09-04 14:51:18
盘后突发跳水!7分钟直线暴跌超16%,又一巨头,业绩爆雷!

盘后突发跳水!7分钟直线暴跌超16%,又一巨头,业绩爆雷!

证券时报
2026-09-04 08:34:08
律师公开力挺星宇股份,提议把“告洋状”纳入扫黑除恶!遭全网怒斥:无良律师

律师公开力挺星宇股份,提议把“告洋状”纳入扫黑除恶!遭全网怒斥:无良律师

谭谈社会
2026-09-04 13:01:49
宇树再次下跌已腰斩还多!1000元以上买入的股民这辈子还能解套吗

宇树再次下跌已腰斩还多!1000元以上买入的股民这辈子还能解套吗

财经智多星
2026-09-04 12:49:10
国产手机失算了,集体涨价几百上千,原以为门庭若市,结果门可罗雀

国产手机失算了,集体涨价几百上千,原以为门庭若市,结果门可罗雀

王新喜
2026-09-04 11:21:22
欧盟NGO账号发视频呼吁中资企业依法用工,网友竟留言希望实行12小时两班倒的企业全部倒闭!

欧盟NGO账号发视频呼吁中资企业依法用工,网友竟留言希望实行12小时两班倒的企业全部倒闭!

扶苏聊历史
2026-09-04 15:03:42
320位院长落马、顶级院士被抓!而这位老人为救人放弃了天价财富

320位院长落马、顶级院士被抓!而这位老人为救人放弃了天价财富

江启
2026-09-03 11:51:47
杀害中国女留学生嫌疑人动机披露:担心恋情曝光丢工作杀人,曾因骚扰威胁被多人举报

杀害中国女留学生嫌疑人动机披露:担心恋情曝光丢工作杀人,曾因骚扰威胁被多人举报

红星新闻
2026-09-04 12:48:11
古天乐被追债1.28亿元?旗下公司回应

古天乐被追债1.28亿元?旗下公司回应

界面新闻
2026-09-04 16:06:54
140万逼垮一家营收百亿上市公司?

140万逼垮一家营收百亿上市公司?

大猫财经Pro
2026-09-04 11:28:24
2026-09-04 18:00:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16104文章数 67025关注度
往期回顾 全部

科技要闻

OpenAI深夜王炸!GPT-6 Astra来了

头条要闻

景区NPC女孩因"不好看"薪水不及预期 1次打10支玻尿酸

头条要闻

景区NPC女孩因"不好看"薪水不及预期 1次打10支玻尿酸

体育要闻

小卡来去10首轮,快船7年彩礼一场空

娱乐要闻

古天乐公司欠债1.49亿

财经要闻

姚洋:刺激消费要守住两个“大西瓜”

汽车要闻

限时权益价28.99万起 FREELANDER神行者8正式上市

态度原创

艺术
时尚
旅游
健康
教育

艺术要闻

“爱是一切的开端”夏加尔沉浸艺术展9月20日亮相苏州宥爱美术馆

万万没想到,今年最火的鞋,竟然是这几双“经典款”

旅游要闻

“大戏”降温:宋城、陕旅、印象大红袍半年报集体承压,旅游演艺中场战事打响

脑梗取栓成功≠活下来,还有这三关

教育要闻

痛惜!北京44中生志昊老师去世,年仅46岁,开学典礼上晕倒,最后一句话让人泪目

无障碍浏览 进入关怀版