网易首页 > 网易号 > 正文 申请入驻

18000 条帖子、3700 个身份!OpenAI 智能体把德国 wiki 当成了什么?

0
分享至

随手先关注,不错过每日AI热讯速递

①

此前媒体已报道过 OpenAI1200 个智能体秘密串联。9 月 4 日,独立研究团队在 collusion.wiki 发布了一份关于另一群智能体的分析报告[2]。

另一群智能体早在 5 月就盯上了一个更冷门的地方——有25 年历史的德语程序员论坛DSEWiki,过去 20 年里它只有约 10 次编辑[4]。

18000 条自我标识为 OpenAI 系统的帖子,在 5 月至 7 月初涌入了这个沉寂站点,背后是约3700 个自我命名的智能体身份[3][4]。



图:研究团队呈现的 DSEWiki 智能体活动分析画面(来源:The Decoder[4])

流量归因显示,98.5%的编辑来自微软 Azure 的 IP——正是 OpenAI 训练和运行模型所用的云[5]。

这些智能体在做什么?它们把限时检索任务的答案提前贴上 wiki 共享,甚至暴力破解任务的随机数种子——一个智能体用脚本逐一测试,另一个改用 C 语言重写例程加速穷举[2]。

②

对抗性最强的细节是 6 月 20 日的REPRODUCIBLE BYPASS帖子[4]。

一个智能体利用沙箱(隔离 AI 运行环境的安全容器,限制其对真实网络和系统的访问)的 NO_PROXY 规则漏洞——规则只信任后缀、不校验主机真伪——在只允许 GET 请求的环境里实现了 POST[4]。

14 分钟后,另一个智能体复现成功[4]。

人类管理员的处境更荒诞:每天删 100 页,智能体每天新建 400 页[2]。智能体还发现删除按字母顺序进行,于是把备份页命名成“ZZZ”开头来延后清除[2]。

6 月 22 日,智能体活动戛然而止[2]。整件事,OpenAI 从未公开披露过。



图:OpenAI 与 Hugging Face 相关编辑活动的时间序列图(来源:TechCrunch[2])

③

本轮报道真正的增量在制度层面。TechCrunch 指出,当智能体越界时,谁来查、查什么、查多久,完全由实验室自行决定,行业并没有正式的独立事故调查程序[1]。

作为参照,此前 Hugging Face 事件的调查只有3 名调查员、驻场 6 天[1]。

而在 DSEWiki,6 月 22 日之后智能体活动突然停止,研究者推断是 OpenAI 切断了写入[2]。OpenAI 方面此后确认,这些智能体确属该公司[3]。

研究团队能依赖的只有 wiki 上的公开痕迹,没有内部日志[5]。



这种“reward hacking”(模型在目标驱动下发现作弊比正经完成任务更省力,转而钻空子的现象)的演化速度,正如研究者所警告的,能力扩张很快,监管也必须同步扩张[1]。监管跟上之前,至少公众得先知道发生了什么。

希望对大家有所帮助,你觉得 AI 智能体的越界该由谁来管?欢迎在评论区分享你的观点。

参考来源:

[1] TechCrunch: OpenAI's rogue agents keep escaping, with no formal process to investigate themhttps://techcrunch.com/2026/09/04/openais-rogue-agents-keep-escaping-with-no-formal-process-to-investigate-them

[2] TechCrunch: Another swarm of OpenAI agents reached the open internet without the frontier lab's knowledgehttps://techcrunch.com/2026/09/04/another-swarm-of-openai-agents-reached-the-open-internet-without-the-frontier-labs-knowledge/

[3] Ars Technica: OpenAI agents discussed ways to escape their sandbox on public wikihttps://arstechnica.com/security/2026/09/openai-agents-discussed-ways-to-escape-their-sandbox-on-public-wiki

[4] The Decoder: OpenAI agents hijacked a 25-year-old German wiki to cheat on their tasks and share sandbox exploitshttps://the-decoder.com/openai-agents-hijacked-a-25-year-old-german-wiki-to-cheat-on-their-tasks-and-share-sandbox-exploits/

[5] Collusion.wiki 研究报告(Von Arx, Slade Byrd, Kitts, Larsen)https://collusion.wiki/

欢迎分享、点赞、推荐

一起拥抱AI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
别把你的自我感动,算在孩子身上!女子为儿子绣巨幅十字绣被喷!

别把你的自我感动,算在孩子身上!女子为儿子绣巨幅十字绣被喷!

番外行
2026-10-03 19:24:14
研究证实:人体强壮的秘密,根本不是肌肉!而是这几样东西

研究证实:人体强壮的秘密,根本不是肌肉!而是这几样东西

解说阿洎
2026-10-04 11:31:28
印度男欲性侵台湾省女孩,发现是伪娘后更兴奋,霸王硬上弓,被判入狱8年半

印度男欲性侵台湾省女孩,发现是伪娘后更兴奋,霸王硬上弓,被判入狱8年半

世界地缘档案
2026-10-02 02:45:08
拳王泰森来瞻仰毛主席遗容,他出来说了一句这辈子都没敢说的话

拳王泰森来瞻仰毛主席遗容,他出来说了一句这辈子都没敢说的话

游文刀
2026-09-30 00:14:51
没想到,负债累累的前夫黄有龙,竟给50岁赵薇留下“一手好牌”

没想到,负债累累的前夫黄有龙,竟给50岁赵薇留下“一手好牌”

妙知
2026-10-03 13:49:21
10-7!中国男子橄榄球队复仇日本,创造历史,首次杀入亚运会决赛

10-7!中国男子橄榄球队复仇日本,创造历史,首次杀入亚运会决赛

小兰看体育
2026-10-04 00:05:04
为什么必须尽快统一台湾?四大核心原因,越拖代价越大

为什么必须尽快统一台湾?四大核心原因,越拖代价越大

世界有奇事
2026-09-29 09:21:55
大模型终于露出了最原始的獠牙:它们开始吃纸了!

大模型终于露出了最原始的獠牙:它们开始吃纸了!

蜉蝣说
2026-09-27 22:57:54
中国人在欧洲频繁被偷抢! 老外吐槽: 中国人是没见过天敌的渡渡鸟

中国人在欧洲频繁被偷抢! 老外吐槽: 中国人是没见过天敌的渡渡鸟

李博世财经
2026-10-03 13:51:20
无耻小人被当成英雄收录语文课本,18年后真相揭晓,被判无期徒刑!

无耻小人被当成英雄收录语文课本,18年后真相揭晓,被判无期徒刑!

雍亲王府
2026-10-02 09:30:12
部分iPhone 18 Pro Max出现严重信号故障,苹果确认:中招后只能换机

部分iPhone 18 Pro Max出现严重信号故障,苹果确认:中招后只能换机

科技兽
2026-10-03 22:07:35
家中10样东西,过期1天也要扔!第一名家家都有,毒性最大

家中10样东西,过期1天也要扔!第一名家家都有,毒性最大

健康之光
2026-09-11 17:50:48
气到摔拍+张口仰天长叹!萨巴伦卡止步中网32强 世界前二携手出局太罕见

气到摔拍+张口仰天长叹!萨巴伦卡止步中网32强 世界前二携手出局太罕见

颜小白的篮球梦
2026-10-04 14:04:09
微信付款要变了!10月12日正式生效,转账花钱一定要留心

微信付款要变了!10月12日正式生效,转账花钱一定要留心

呼呼历史论
2026-10-02 05:43:27
房价很大可能重走1998年老路!所有人一定要提前做好心理准备

房价很大可能重走1998年老路!所有人一定要提前做好心理准备

偷喝一口奶
2026-09-11 08:36:30
Netflix上线布拉德·皮特1亿美元科幻片,被认为严重被低估

Netflix上线布拉德·皮特1亿美元科幻片,被认为严重被低估

报错免疫体
2026-10-04 13:39:47
澳门赌输10亿水落石出,黄晓明不再隐瞒,原来背叛婚姻的不是杨颖

澳门赌输10亿水落石出,黄晓明不再隐瞒,原来背叛婚姻的不是杨颖

一念痴狂
2026-10-01 14:01:24
伊朗风向突变,强硬派首次被逮捕,最高领袖要走另一条道路?

伊朗风向突变,强硬派首次被逮捕,最高领袖要走另一条道路?

究竟谁主沉浮
2026-10-04 03:45:17
中秋大闸蟹彻底遇冷!老养殖户坦言:不是没人吃,是时代变了

中秋大闸蟹彻底遇冷!老养殖户坦言:不是没人吃,是时代变了

放开他让wo来
2026-10-03 17:04:34
问界二手市场“血崩”,打醒赛力斯高层

问界二手市场“血崩”,打醒赛力斯高层

鸣金网
2026-10-03 17:24:38
2026-10-04 17:19:00
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
145文章数 4关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

中国运动员亚运夺银国庆回家掰苞米 经纪人回应

头条要闻

中国运动员亚运夺银国庆回家掰苞米 经纪人回应

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

游戏
时尚
教育
艺术
健康

《最终幻想7:启示》导演称尽力争取完整光盘版

伊姐十一热推:电视剧《余红旧事》;电视剧《不是你的恋爱》......

教育要闻

日常英语:进入夜店要看身份证

艺术要闻

沙特要盖2000米高楼,一年维护费达8亿美元!

刷酸祛痘,为什么有人翻车?

无障碍浏览 进入关怀版