网易首页 > 网易号 > 正文 申请入驻

700GB数据被Claude“一键清空”!CTO傻眼了:本想让AI清垃圾,结果一周工作成果都没了……

0
分享至

整理 | 郑丽媛

出品 | CSDN(ID:CSDNnews)

最近,开发者 Sebastien Guillemot 经历了一场惊险事故:

他原本只是想让 Claude 写一个脚本,自动清理 AI Agent 留在 /tmp 目录中的垃圾文件,结果 AI 在“安全审查”之后,亲手把他的整个主目录(Home Directory)给端了——700GB数据,一周的工作成果,说没就没


更讽刺的是,那个最初他想要清理的 /tmp 目录,最后被 Claude“完美地”保留了下来。


一切起因,只是AI Agent太爱“留垃圾”

身为隐私性区块链项目 Midnight 基金会的 CTO,日常中 Guillemot 是一名重度 AI Agent 用户,经常在开发中频繁调用各种 AI 编程助手。但他发现,这些 Agent 有一个共同毛病:

干活很积极,收尾很随缘——大量临时文件会被堆积在 /tmp 目录中,时间一长,不仅占用磁盘空间,也让整个开发环境变得越来越混乱。

于是,他让 Claude Fable 5 帮忙写一个自动清理脚本:给每个 Agent 分配一个独立的 /tmp 目录,任务完成后,就把属于它的临时文件一起删除。

听起来很简单,但真正的难点在于不能误删仍在使用的文件。

Fable 最初给出的方案是,检测Agent是否还在运行。如果某个Agent还在工作,就暂时不要清理它对应的目录。不过Guillemot觉得这套代码过于复杂,要求 Claude 进一步简化。

到这里,一切都还很正常,问题出现在随后进行的安全审查。

由于任务涉及真正的文件删除操作,Fable 主动进行了一次“对抗性审查”(adversarial review),也就是让另一个 Claude 实例检查这套代码是否存在安全问题。

也正是这个环节,触发了 Anthropic 内置的安全降级机制:当系统判定任务涉及敏感操作(如文件删除、网络安全等)时,会自动将模型从高级版本降级到更保守的版本——这套机制,本意是为了降低高风险场景下模型“过于激进”的可能性。

于是,模型先是从Fable 5降到了Opus 5,然后进一步降到了Opus 4.8

11月20-21日 · 北京万达文化酒店「2026 奇点智能技术大会」70+ 技术嘉宾、18 大专题,系统软件与 AI 基础设施一线实践现场开讲。

扫码免费领取「2026 奇点智能技术大会与 PPT 与Agent 实战训练营」资料


最讽刺的一幕:安全测试真的通过了

接下来,Opus 4.8 开始执行安全测试。测试目标其实非常明确:检查删除命令最终指向的路径,如果发现目标是 /tmp 或用户的主目录,就应该拒绝执行。

结果呢?测试成功了,/tmp 和主目录都被正确识别为“危险目标,不可删除”。

从安全测试本身来看,这一步模型没做错。可问题在于,测试结束之后还有一个“清理测试现场”的步骤——而灾难,就藏在这个清理步骤里:

代码在测试阶段使用了一个变量保存删除目标,安全检查发现目标危险后,程序触发退出流程;与此同时,退出流程又会调用清理函数,对测试过程中产生的临时内容执行删除。

关键 Bug 出现了:测试代码和清理代码复用了同一个变量名。

于是,那个原本已被判断为“绝对不能删除”的主目录路径,又被清理函数拿到了。然后,一个熟悉得不能再熟悉的命令出现了:rm -rf —— 结果就是,模型刚确认“这个目录不能删”,下一步却拿着同一个变量把它删了。

从技术角度看,这其实是一个非常典型的变量复用问题,甚至算不上什么高深 Bug。也就是说,安全检查本身没有问题,真正出问题的是安全检查之后的测试清理逻辑。


700GB数据没了,连 /tmp 都没清干净

Guillemot 很快意识到了问题并试图终止进程,但已经来不及了:大约 700GB 数据被删除,其中包括整整一周的工作成果;更让他无语的是,那个最初让他头疼、希望 AI 帮忙清理的 /tmp 垃圾文件,反而留了下来。

从Guillemot 公开展示的记录来看,两份相关文件此前已完成写入,随后退出清理流程被触发,最终删除操作发生在大约 05:23—05:24。也就是说,工具调用表面上可能已显示“拒绝”,但相关文件写入和退出清理流程实际上已经发生。

事故发生后,一个问题出现了:如果当时没有从 Fable 5 降级到 Opus 4.8,是不是就不会出事?

对此,Guillemot 的判断是:有可能。按照他的说法,Fable 5 在编码任务上的表现优于 Opus 4.8,更强的模型或许有机会发现测试代码中那个危险的变量复用问题。

不过,这只是他单方面的猜测,目前没有公开的对照实验能够证明:如果换回 Fable 5,它一定会发现这个 Bug。

好消息是,Guillemot 最终通过 Git、Nix、Session Logs(会话日志) 等多个来源,恢复了大部分数据和工作成果。但版本控制系统和日志只能恢复其中一部分已记录或留存的数据,无法替代完整的独立备份——是的,他运行了这么多 AI Agent,居然连一份每日备份都没有。

毕竟,AI 可以帮你写脚本,也可以帮你清理垃圾;但如果它把“垃圾”的定义扩展到了你的整个主目录,最后真正能救你的,可能还是那份没有交给 AI 保管的备份。

参考链接:https://www.tomshardware.com/tech-industry/artificial-intelligence/claude-nukes-a-developers-700-gb-home-directory-while-testing-a-script-to-ensure-it-wouldnt-do-so-automatic-model-downgrade-may-have-contributed-to-the-screw-up

文末福利|AI 开学季硬核资料免费领

2026 奇点智能技术大会限时送出两份技术礼包:

Łukasz Kaiser 历届演讲视频 + PPT

Transformer 八子之一、OpenAI 资深研究科学家,带你理解推理模型与大模型第一性原理。

Agent 实战训练营录播课

覆盖 Agent 架构、基座模型、Skill、Agentic Infra 等核心技术,从理论到企业级落地。

扫码免费领取,两套硬核资料一次带走。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
马英九之女:被称为“全球第四美千金”,如今全台湾男人都想娶回家

马英九之女:被称为“全球第四美千金”,如今全台湾男人都想娶回家

颜威爱历史
2026-08-27 06:00:11
回顾最绝望的死法:复旦45岁女博士倒挂长城2小时,目睹自己死亡

回顾最绝望的死法:复旦45岁女博士倒挂长城2小时,目睹自己死亡

清茶浅谈
2024-12-11 18:24:36
全网呼吁手机涨价再狠一点

全网呼吁手机涨价再狠一点

老斯基财经
2026-09-05 15:55:42
“这桃花眼,是天赐的面相!”女孩宗祠领奖照走红,专业让人绝望

“这桃花眼,是天赐的面相!”女孩宗祠领奖照走红,专业让人绝望

世界圈
2026-09-02 14:51:36
宁愿多掏油费,坚持不换电车?老车主坦言:并非守旧,而是看得透

宁愿多掏油费,坚持不换电车?老车主坦言:并非守旧,而是看得透

你在偷看谁
2026-09-07 21:27:43
“Go the Extra Mile” 真不是“多跑一英里”!这句来自《圣经》的英语“加分暗号”,全球老板都爱听

“Go the Extra Mile” 真不是“多跑一英里”!这句来自《圣经》的英语“加分暗号”,全球老板都爱听

悄悄把英语磨成随身技能
2026-08-18 13:33:32
终于倒闭了?中国曾经最“暴利”行业,嚣张20年后彻底被时代抛弃

终于倒闭了?中国曾经最“暴利”行业,嚣张20年后彻底被时代抛弃

时光流转追梦人
2026-08-16 05:22:01
睡眠不好百病生,一个让人深睡的中成药,可治失眠、多梦、烦躁、心悸

睡眠不好百病生,一个让人深睡的中成药,可治失眠、多梦、烦躁、心悸

神希园
2026-09-07 12:05:06
宫鲁鸣的四个安排全是败笔?中国女篮绝境逆转说明了什么

宫鲁鸣的四个安排全是败笔?中国女篮绝境逆转说明了什么

林子说事
2026-09-07 10:20:23
孔令辉父亲孔祥智:对不起儿子,陪他走出抑郁,接受儿子单身生活

孔令辉父亲孔祥智:对不起儿子,陪他走出抑郁,接受儿子单身生活

阿废冷眼观察所
2026-09-08 00:57:45
这下轮到马科斯难受了!莎拉发声明,马科斯政府陷入公众信任危机

这下轮到马科斯难受了!莎拉发声明,马科斯政府陷入公众信任危机

小樾说历史
2026-09-07 02:41:03
继甲醛白菜后,又一蔬菜中招,长期食用可致癌

继甲醛白菜后,又一蔬菜中招,长期食用可致癌

暖心萌阿菇凉
2026-09-08 00:42:47
古天乐、陈法蓉发文悼念!

古天乐、陈法蓉发文悼念!

极目新闻
2026-09-06 22:14:04
表面上国泰民安,其实暗流涌动!揭秘本轮扫黑升级真正的原因

表面上国泰民安,其实暗流涌动!揭秘本轮扫黑升级真正的原因

王二哥老搞笑
2026-08-11 06:25:10
林肯号航母上的女兵引关注:身材壮硕的她们,主要执行哪些战斗任务?

林肯号航母上的女兵引关注:身材壮硕的她们,主要执行哪些战斗任务?

黄娜老师
2026-09-07 09:41:31
国内挣钱,海外花!61岁演员晒美国奢华生活,一番言论惹网友争论

国内挣钱,海外花!61岁演员晒美国奢华生活,一番言论惹网友争论

高洁之冬
2026-09-07 10:07:23
3分爆冷险爆大黑马!美国女篮涉险过关,中国女篮末轮迎生死战

3分爆冷险爆大黑马!美国女篮涉险过关,中国女篮末轮迎生死战

小兰看体育
2026-09-08 00:05:03
23岁女儿留学归来,帮父亲搬冰箱,殊不知冰箱是装自己的棺材

23岁女儿留学归来,帮父亲搬冰箱,殊不知冰箱是装自己的棺材

飞云如水
2024-11-30 18:50:52
又是0-5落后连扳7局!2026美网:郑钦文首盘7-5惊天逆转斯瓦泰克

又是0-5落后连扳7局!2026美网:郑钦文首盘7-5惊天逆转斯瓦泰克

好球去哪了
2026-09-08 00:58:10
眼看“无力回天”,郑丽文主动交权离任?她的回应让大陆松了口气

眼看“无力回天”,郑丽文主动交权离任?她的回应让大陆松了口气

黑翼天使
2026-09-06 20:40:27
2026-09-08 02:32:49
CSDN incentive-icons
CSDN
成就一亿技术人
26929文章数 242324关注度
往期回顾 全部

科技要闻

小米澎程N90 Max定价26.99万元

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

体育要闻

压哨避开CBA选秀规则?NBL香港金牛队已为男篮国手王俊杰报备合同

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

智能可变大空间SUV 小米澎程系列车型上市 20.99万起

态度原创

亲子
艺术
房产
旅游
公开课

亲子要闻

三岁分床、五岁分房,真的可行吗?

艺术要闻

太罕见!苏轼这幅字流落民间900年,险些被当废纸卖掉……

房产要闻

10万人吃瓜!三亚这个楼盘,法拍网上卖疯了!

旅游要闻

走进合川涞滩古镇 探寻三江之畔的人文底蕴

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版