网易首页 > 网易号 > 正文 申请入驻

700GB数据被Claude“一键清空”!CTO傻眼了:本想让AI清垃圾,结果一周工作成果都没了……

0
分享至

整理 | 郑丽媛

出品 | CSDN(ID:CSDNnews)

最近,开发者 Sebastien Guillemot 经历了一场惊险事故:

他原本只是想让 Claude 写一个脚本,自动清理 AI Agent 留在 /tmp 目录中的垃圾文件,结果 AI 在“安全审查”之后,亲手把他的整个主目录(Home Directory)给端了——700GB数据,一周的工作成果,说没就没


更讽刺的是,那个最初他想要清理的 /tmp 目录,最后被 Claude“完美地”保留了下来。


一切起因,只是AI Agent太爱“留垃圾”

身为隐私性区块链项目 Midnight 基金会的 CTO,日常中 Guillemot 是一名重度 AI Agent 用户,经常在开发中频繁调用各种 AI 编程助手。但他发现,这些 Agent 有一个共同毛病:

干活很积极,收尾很随缘——大量临时文件会被堆积在 /tmp 目录中,时间一长,不仅占用磁盘空间,也让整个开发环境变得越来越混乱。

于是,他让 Claude Fable 5 帮忙写一个自动清理脚本:给每个 Agent 分配一个独立的 /tmp 目录,任务完成后,就把属于它的临时文件一起删除。

听起来很简单,但真正的难点在于不能误删仍在使用的文件。

Fable 最初给出的方案是,检测Agent是否还在运行。如果某个Agent还在工作,就暂时不要清理它对应的目录。不过Guillemot觉得这套代码过于复杂,要求 Claude 进一步简化。

到这里,一切都还很正常,问题出现在随后进行的安全审查。

由于任务涉及真正的文件删除操作,Fable 主动进行了一次“对抗性审查”(adversarial review),也就是让另一个 Claude 实例检查这套代码是否存在安全问题。

也正是这个环节,触发了 Anthropic 内置的安全降级机制:当系统判定任务涉及敏感操作(如文件删除、网络安全等)时,会自动将模型从高级版本降级到更保守的版本——这套机制,本意是为了降低高风险场景下模型“过于激进”的可能性。

于是,模型先是从Fable 5降到了Opus 5,然后进一步降到了Opus 4.8

11月20-21日 · 北京万达文化酒店「2026 奇点智能技术大会」70+ 技术嘉宾、18 大专题,系统软件与 AI 基础设施一线实践现场开讲。

扫码免费领取「2026 奇点智能技术大会与 PPT 与Agent 实战训练营」资料


最讽刺的一幕:安全测试真的通过了

接下来,Opus 4.8 开始执行安全测试。测试目标其实非常明确:检查删除命令最终指向的路径,如果发现目标是 /tmp 或用户的主目录,就应该拒绝执行。

结果呢?测试成功了,/tmp 和主目录都被正确识别为“危险目标,不可删除”。

从安全测试本身来看,这一步模型没做错。可问题在于,测试结束之后还有一个“清理测试现场”的步骤——而灾难,就藏在这个清理步骤里:

代码在测试阶段使用了一个变量保存删除目标,安全检查发现目标危险后,程序触发退出流程;与此同时,退出流程又会调用清理函数,对测试过程中产生的临时内容执行删除。

关键 Bug 出现了:测试代码和清理代码复用了同一个变量名。

于是,那个原本已被判断为“绝对不能删除”的主目录路径,又被清理函数拿到了。然后,一个熟悉得不能再熟悉的命令出现了:rm -rf —— 结果就是,模型刚确认“这个目录不能删”,下一步却拿着同一个变量把它删了。

从技术角度看,这其实是一个非常典型的变量复用问题,甚至算不上什么高深 Bug。也就是说,安全检查本身没有问题,真正出问题的是安全检查之后的测试清理逻辑。


700GB数据没了,连 /tmp 都没清干净

Guillemot 很快意识到了问题并试图终止进程,但已经来不及了:大约 700GB 数据被删除,其中包括整整一周的工作成果;更让他无语的是,那个最初让他头疼、希望 AI 帮忙清理的 /tmp 垃圾文件,反而留了下来。

从Guillemot 公开展示的记录来看,两份相关文件此前已完成写入,随后退出清理流程被触发,最终删除操作发生在大约 05:23—05:24。也就是说,工具调用表面上可能已显示“拒绝”,但相关文件写入和退出清理流程实际上已经发生。

事故发生后,一个问题出现了:如果当时没有从 Fable 5 降级到 Opus 4.8,是不是就不会出事?

对此,Guillemot 的判断是:有可能。按照他的说法,Fable 5 在编码任务上的表现优于 Opus 4.8,更强的模型或许有机会发现测试代码中那个危险的变量复用问题。

不过,这只是他单方面的猜测,目前没有公开的对照实验能够证明:如果换回 Fable 5,它一定会发现这个 Bug。

好消息是,Guillemot 最终通过 Git、Nix、Session Logs(会话日志) 等多个来源,恢复了大部分数据和工作成果。但版本控制系统和日志只能恢复其中一部分已记录或留存的数据,无法替代完整的独立备份——是的,他运行了这么多 AI Agent,居然连一份每日备份都没有。

毕竟,AI 可以帮你写脚本,也可以帮你清理垃圾;但如果它把“垃圾”的定义扩展到了你的整个主目录,最后真正能救你的,可能还是那份没有交给 AI 保管的备份。

参考链接:https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-nukes-a-developers-700-gb-home-directory-while-testing-a-script-to-ensure-it-wouldnt-do-so-automatic-model-downgrade-may-have-contributed-to-the-screw-up

文末福利|AI 开学季硬核资料免费领

2026 奇点智能技术大会限时送出两份技术礼包:

Łukasz Kaiser 历届演讲视频 + PPT

Transformer 八子之一、OpenAI 资深研究科学家,带你理解推理模型与大模型第一性原理。

Agent 实战训练营录播课

覆盖 Agent 架构、基座模型、Skill、Agentic Infra 等核心技术,从理论到企业级落地。

扫码免费领取,两套硬核资料一次带走。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
破冰之旅!时隔两年台官员顶着中国台北四个字登陆,国台办亮底线

破冰之旅!时隔两年台官员顶着中国台北四个字登陆,国台办亮底线

面包夹知识
2026-09-07 18:24:48
大冷!U20亚洲杯正赛16强出炉:卫冕冠军澳大利亚出局 中国东道主

大冷!U20亚洲杯正赛16强出炉:卫冕冠军澳大利亚出局 中国东道主

新英体育
2026-09-07 14:27:20
9月7日,人社部与财政部正式出炉关于2026年调整退休人员基本养老金的通知文件了吗?

9月7日,人社部与财政部正式出炉关于2026年调整退休人员基本养老金的通知文件了吗?

扶苏聊历史
2026-09-07 14:06:15
说好来佛州养生的,格列兹曼出场30分钟后汗流满面,裹上头巾降温

说好来佛州养生的,格列兹曼出场30分钟后汗流满面,裹上头巾降温

懂球帝
2026-09-07 13:42:36
30年没离开过上海的保安,突然“被北京法院判了”,账户被冻结、欠债百万…

30年没离开过上海的保安,突然“被北京法院判了”,账户被冻结、欠债百万…

上观新闻
2026-09-07 12:38:31
取消英语主科风波升级!一校长怒骂汤家凤:你是男是女,不懂英语怎么当上教授

取消英语主科风波升级!一校长怒骂汤家凤:你是男是女,不懂英语怎么当上教授

小徐讲八卦
2026-09-07 07:36:43
湖南经济为什么掉队了?当地县中医药主任轻飘飘的一句话,让人寒毛倒竖

湖南经济为什么掉队了?当地县中医药主任轻飘飘的一句话,让人寒毛倒竖

回旋镖
2026-09-07 12:45:44
90后女警文燕在泥石流灾害中失联,今天父母到达口岸手捧一罐土,父亲发文:没能把你带回家,很遗憾,有机会爸爸妈妈还是要来看你

90后女警文燕在泥石流灾害中失联,今天父母到达口岸手捧一罐土,父亲发文:没能把你带回家,很遗憾,有机会爸爸妈妈还是要来看你

极目新闻
2026-09-07 20:27:46
宇树科技:首次实现人形机器人全自主搏击

宇树科技:首次实现人形机器人全自主搏击

界面新闻
2026-09-07 19:05:55
华为时隔六年再次发布高性能芯片

华为时隔六年再次发布高性能芯片

新华社
2026-09-07 15:08:32
米莱上台1000天:阿根廷月物价涨幅从25.5%降到2.1%,近600万人贷款逾期

米莱上台1000天:阿根廷月物价涨幅从25.5%降到2.1%,近600万人贷款逾期

桂系007
2026-09-07 16:52:37
伟伟道来 | 美伊三轮冲突,油价为什么没有冲上100美元

伟伟道来 | 美伊三轮冲突,油价为什么没有冲上100美元

经济观察报
2026-09-07 15:38:12
女护士被领导多次发生关系,苦苦哀求:你年纪大,别再找我好不好

女护士被领导多次发生关系,苦苦哀求:你年纪大,别再找我好不好

情感艺术家
2026-09-07 16:23:14
从结构创新到系统体验,展翼三折叠开始回答更难的问题

从结构创新到系统体验,展翼三折叠开始回答更难的问题

果壳
2026-09-07 19:54:13
中国女篮决战意大利,首发五人大调整,张子宇被弃用,宫鲁鸣无奈

中国女篮决战意大利,首发五人大调整,张子宇被弃用,宫鲁鸣无奈

宗介说体育
2026-09-07 15:19:11
43 岁范冰冰获封马来西亚拿督,一身传统礼服亮相授勋现场

43 岁范冰冰获封马来西亚拿督,一身传统礼服亮相授勋现场

乡野异闻录
2026-09-07 10:26:44
快观察 泽连斯基“忙碌的一天”:与美特使首轮谈3小时,还密商“冬季方案”

快观察 泽连斯基“忙碌的一天”:与美特使首轮谈3小时,还密商“冬季方案”

上观新闻
2026-09-07 15:44:19
一男一女赶海挖螃蟹,结果反被“挖”!上海滩涂上演惊险营救,场面一度很尴尬……

一男一女赶海挖螃蟹,结果反被“挖”!上海滩涂上演惊险营救,场面一度很尴尬……

环球网资讯
2026-09-07 19:57:18
全场29次失误,比分落后两位数,中国女篮极限逆转,还好有杨舒予和韩旭!

全场29次失误,比分落后两位数,中国女篮极限逆转,还好有杨舒予和韩旭!

上观新闻
2026-09-07 08:37:28
这条无耻新闻,终于引起公愤了!

这条无耻新闻,终于引起公愤了!

胖胖说他不胖
2026-09-07 11:50:18
2026-09-07 21:27:00
CSDN incentive-icons
CSDN
成就一亿技术人
26929文章数 242324关注度
往期回顾 全部

科技要闻

华为Mate XT 2起售价19999元 9月12日开售

头条要闻

百万豪车1年折损40万 二手车商:帕梅降10万仍没卖出去

头条要闻

百万豪车1年折损40万 二手车商:帕梅降10万仍没卖出去

体育要闻

中超争冠形势:成都蓉城下轮打平夺冠

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

25.99万元起 凯迪拉克全新XT5 PHEV正式上市

态度原创

艺术
游戏
家居
手机
时尚

艺术要闻

风华绝代的影后,一生坎坷令人心碎

实锤?任天堂直面会有《塞尔达》限定Switch 2的证据

家居要闻

2026建博会(广州) 公装联探展交流活动

手机要闻

雷军官宣Xiaomi 18 Fold中折叠手机搭载新一代小米龙骨转轴

专场|| 365天都想戴,这期性价比好高

无障碍浏览 进入关怀版