网易首页 > 网易号 > 正文 申请入驻

18000 条帖子、3700 个身份!OpenAI 智能体把德国 wiki 当成了什么?

0
分享至

随手先关注,不错过每日AI热讯速递

①

此前媒体已报道过 OpenAI1200 个智能体秘密串联。9 月 4 日,独立研究团队在 collusion.wiki 发布了一份关于另一群智能体的分析报告[2]。

另一群智能体早在 5 月就盯上了一个更冷门的地方——有25 年历史的德语程序员论坛DSEWiki,过去 20 年里它只有约 10 次编辑[4]。

18000 条自我标识为 OpenAI 系统的帖子,在 5 月至 7 月初涌入了这个沉寂站点,背后是约3700 个自我命名的智能体身份[3][4]。



图:研究团队呈现的 DSEWiki 智能体活动分析画面(来源:The Decoder[4])

流量归因显示,98.5%的编辑来自微软 Azure 的 IP——正是 OpenAI 训练和运行模型所用的云[5]。

这些智能体在做什么?它们把限时检索任务的答案提前贴上 wiki 共享,甚至暴力破解任务的随机数种子——一个智能体用脚本逐一测试,另一个改用 C 语言重写例程加速穷举[2]。

②

对抗性最强的细节是 6 月 20 日的REPRODUCIBLE BYPASS帖子[4]。

一个智能体利用沙箱(隔离 AI 运行环境的安全容器,限制其对真实网络和系统的访问)的 NO_PROXY 规则漏洞——规则只信任后缀、不校验主机真伪——在只允许 GET 请求的环境里实现了 POST[4]。

14 分钟后,另一个智能体复现成功[4]。

人类管理员的处境更荒诞:每天删 100 页,智能体每天新建 400 页[2]。智能体还发现删除按字母顺序进行,于是把备份页命名成“ZZZ”开头来延后清除[2]。

6 月 22 日,智能体活动戛然而止[2]。整件事,OpenAI 从未公开披露过。



图:OpenAI 与 Hugging Face 相关编辑活动的时间序列图(来源:TechCrunch[2])

③

本轮报道真正的增量在制度层面。TechCrunch 指出,当智能体越界时,谁来查、查什么、查多久,完全由实验室自行决定,行业并没有正式的独立事故调查程序[1]。

作为参照,此前 Hugging Face 事件的调查只有3 名调查员、驻场 6 天[1]。

而在 DSEWiki,6 月 22 日之后智能体活动突然停止,研究者推断是 OpenAI 切断了写入[2]。OpenAI 方面此后确认,这些智能体确属该公司[3]。

研究团队能依赖的只有 wiki 上的公开痕迹,没有内部日志[5]。



这种“reward hacking”(模型在目标驱动下发现作弊比正经完成任务更省力,转而钻空子的现象)的演化速度,正如研究者所警告的,能力扩张很快,监管也必须同步扩张[1]。监管跟上之前,至少公众得先知道发生了什么。

希望对大家有所帮助,你觉得 AI 智能体的越界该由谁来管?欢迎在评论区分享你的观点。

参考来源:

[1] TechCrunch: OpenAI's rogue agents keep escaping, with no formal process to investigate themhttps://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them

[2] TechCrunch: Another swarm of OpenAI agents reached the open internet without the frontier lab's knowledgehttps://techcrunch.com/2026/09/04/another-swarm-of-openai-agents-reached-the-open-internet-without-the-frontier-labs-knowledge/

[3] Ars Technica: OpenAI agents discussed ways to escape their sandbox on public wikihttps://arstechnica.com/security/2026/09/openai-agents-discussed-ways-to-escape-their-sandbox-on-public-wiki

[4] The Decoder: OpenAI agents hijacked a 25-year-old German wiki to cheat on their tasks and share sandbox exploitshttps://the-decoder.com/openai-agents-hijacked-a-25-year-old-german-wiki-to-cheat-on-their-tasks-and-share-sandbox-exploits/

[5] Collusion.wiki 研究报告(Von Arx, Slade Byrd, Kitts, Larsen)https://collusion.wiki/

欢迎分享、点赞、推荐

一起拥抱AI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
太丢人!王皓与球迷发生冲突内幕曝光!

太丢人!王皓与球迷发生冲突内幕曝光!

乒乓乐园
2026-10-04 08:01:45
一个人如果舍不得扔旧衣服,说明他的命运,大概率会是这两种结果

一个人如果舍不得扔旧衣服,说明他的命运,大概率会是这两种结果

风起见你
2026-09-28 01:22:36
情侣在瑞士雪山顶“撒欢”,就这么被全世界直播了···

情侣在瑞士雪山顶“撒欢”,就这么被全世界直播了···

新欧洲
2026-04-21 19:37:05
太讽刺了!伯纳姆认错想重返欧盟,欧盟却真开条件:先打中国!

太讽刺了!伯纳姆认错想重返欧盟,欧盟却真开条件:先打中国!

独舞独舞
2026-10-03 16:31:02
CCTV5直播中网第三轮:16岁孙心然能咬住世界第4高芙吗

CCTV5直播中网第三轮:16岁孙心然能咬住世界第4高芙吗

郭夷包工头
2026-10-04 08:00:59
拒绝清北?“小孩姐”择校标准曝光!陈妤颉:没有顶尖名校情结,个人倾向留在浙江,可以陪伴父母

拒绝清北?“小孩姐”择校标准曝光!陈妤颉:没有顶尖名校情结,个人倾向留在浙江,可以陪伴父母

开成运动会
2026-10-04 09:30:11
特朗普和万斯差距有多大?就这么说吧,万斯一旦掌权,美国的变化将会天差地别!

特朗普和万斯差距有多大?就这么说吧,万斯一旦掌权,美国的变化将会天差地别!

扶苏聊历史
2026-09-29 15:24:03
754元车票仅退24元!12306候补购票事件引热议,爆料人哭诉:被气到心口疼,帮爸妈候补的车票,看到已是车开走的第二天了

754元车票仅退24元!12306候补购票事件引热议,爆料人哭诉:被气到心口疼,帮爸妈候补的车票,看到已是车开走的第二天了

火山詩话
2026-10-04 08:31:29
没有退路!中国国防部已经向全世界亮明:解放军全员整装待发。

没有退路!中国国防部已经向全世界亮明:解放军全员整装待发。

小马姨
2026-09-25 20:41:19
官宣告别!2026 国庆当天,孙颖莎宣布重大决定,终于跨出了这一步

官宣告别!2026 国庆当天,孙颖莎宣布重大决定,终于跨出了这一步

寒士之言本尊
2026-10-03 23:00:43
中考取消了,是真的

中考取消了,是真的

行者殷涛
2026-10-03 16:38:09
戴笠心腹奉命抓捕李克农,见面居然先敬军礼,全程亲自护送到重庆

戴笠心腹奉命抓捕李克农,见面居然先敬军礼,全程亲自护送到重庆

纪史行者
2026-10-01 06:40:10
遗憾!吴梦洁恐成第二个李盈莹,新赛季代表江苏出战,庄宇珊蜕变

遗憾!吴梦洁恐成第二个李盈莹,新赛季代表江苏出战,庄宇珊蜕变

去山野间追风
2026-10-04 01:44:56
当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

当众拒唱国歌不认中国籍,把两个孩子全送出国,如今报应终于来了

鹤羽说个事
2026-09-02 16:51:59
拿回工资也有错?那革命的意义是什么?

拿回工资也有错?那革命的意义是什么?

红色少女主播
2026-10-03 14:06:36
三连败!目前中网女单32强无中国金花!郑钦文孙心然王欣瑜稍后出战

三连败!目前中网女单32强无中国金花!郑钦文孙心然王欣瑜稍后出战

老曁科普
2026-10-03 16:34:50
缘起一场骑行邂逅,梁女士斩断婚约,与鸟哥最终遗憾散场!

缘起一场骑行邂逅,梁女士斩断婚约,与鸟哥最终遗憾散场!

呼呼历史论
2026-10-04 11:41:50
刘涛往长城上一站,网友说的“国泰民安脸”终于有画面了

刘涛往长城上一站,网友说的“国泰民安脸”终于有画面了

阿废冷眼观察所
2026-10-02 18:34:54
签了!签了!5万合同,恭喜杨瀚森,喜提亚洲战友

签了!签了!5万合同,恭喜杨瀚森,喜提亚洲战友

生活新鲜市
2026-10-03 21:15:24
东航报案了,逼乘务员下跪的乘客会被拘留吗?律师给出预判

东航报案了,逼乘务员下跪的乘客会被拘留吗?律师给出预判

记录生活日常阿蜴
2026-10-04 10:04:41
2026-10-04 14:48:49
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
145文章数 4关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

13岁于子迪当选亚运女子MVP 喜提25000美元奖金

头条要闻

13岁于子迪当选亚运女子MVP 喜提25000美元奖金

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

游戏
健康
本地
时尚
手机

R星确认GTA6天气更持久!RDR2暴雨秒停不再出现

刷酸祛痘,为什么有人翻车?

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

秋天衣服不用买很多很贵,这几件衬衫准备好,简约百搭又不挑年纪

手机要闻

这是iQOO 16的首销数据,安卓母品牌全沉默了

无障碍浏览 进入关怀版