网易首页 > 网易号 > 正文 申请入驻

凌晨3点被报警叫醒?他把六成告警删了,反而睡了四个月好觉

0
分享至

凌晨3点17分,手机震了一下。他眯着眼解锁,屏幕上写着:ZFS存储池降级,3号盘校验错误持续增加,建议执行scrub。


他看了四秒,把手机放下,继续睡。第二天喝完咖啡才跑了一遍scrub,池子没事,那块盘进了每周观察名单。

这个故事之所以无聊,之所以他能接着睡,是因为系统本来就是被设计成"无聊"的。一年前不是这样——那时候他得等存储池进入严重的降级状态才会知道出了问题,而那种通知在凌晨3点收到,完全是另一回事。

大多数监控失效,其实是校准失效

系统什么都盯,什么都报,结果什么都报就等于什么都没报。人开始忽略告警,然后错过真正重要的那一条。

他用来校准的问题只有一个:如果我忽略这条告警8小时,最坏会怎样?

这一个问题,几乎能把所有告警分进三个桶里。

  • L1——立刻叫醒我。数据丢失风险,比如多块盘故障导致存储池降级;安全入侵迹象,比如异常外联、陌生IP的认证失败;有真实外部暴露的服务,比如定时自动化流水线停摆。这类走高优先级推送,会把他叫醒。全部加起来大概五条。
  • L2——醒着的时候告诉我。降级但稳定,比如单块盘校验错误升高、单个容器崩溃后自动重启;错误率上升但还没影响服务;磁盘健康趋势走坏。这类走普通优先级推送,不叫醒人,配咖啡看。
  • L3——只记日志,不告警。其余全部:备份完成、定时任务结果、健康检查成功、例行scrub结果。这些进日志,永远不进推送。

第一次套用这套框架时,他删掉了大约60%的存量告警。响应质量上去了,告警疲劳下来了,睡眠质量跟着改善。

整套监控栈,运行成本为零

服务可用性用Uptime Kuma,按计划巡检每个服务,宕机告警里带足够上下文,不用登录就能判断严重程度。系统指标用Netdata,CPU、内存、ZFS池健康、网络吞吐实时看。磁盘健康用Scrutiny,把SMART数据聚合起来做趋势,故障之前就能看到退化。推送用ntfy,通知里带告警级别、受影响服务、一行建议动作。

整套东西跑在自建基础设施上,没有云依赖,没有SaaS费用。

他的判断很直接:没有校准过的告警系统,比没有告警还糟。

自愈脚本:先解决八成

真正改变一切的思路转换是:别再问"坏了之后我怎么修",改问"我怎么让它坏了之后自己修"。第二个问题的答案,几乎总是一个二十行的bash脚本——检查一个条件,执行一个动作。写一次,挂在定时任务上跑到天荒地老。

每个自愈脚本都遵循同一套结构:检查一个条件,只执行一个动作,记录结果,失败时通知。关键约束是"只执行一个动作"——想耍聪明走多条恢复路径的脚本会变得不可预测。一次检查,一个动作,没解决就升级。

他的NAS上实际跑着这些:

  • ZFS健康检查,每6小时一次。从zpool status读校验错误计数,超过阈值立刻触发scrub并发L2通知;scrub结束后记日志并跟进——错误清掉就记录,错误持续就升级到L1。他已经好几个月没手动发起过scrub。
  • 容器健康检查,每5分钟一次。检查每个Docker容器是否处于unhealthy或exited状态,命中就按指数退避重启:等1分钟,再等5分钟,再等15分钟。连续第三次失败升级到L1并停止重试。这样瞬时崩溃循环不会叫醒他,真正的故障还是能抓到。
  • Ollama推理检查,每10分钟一次。向推理端点发一个最小测试提示,连续三次失败触发容器重启,重启后还要验证端点健康才算恢复。Ollama现在是他一半自动化栈的承重墙,静默失败不可接受。
  • n8n工作流队列检查,每10分钟一次。队列深度超过阈值持续10分钟以上,就重启n8n worker并记录触发事件。没人注意的工作流积压,就是自动化流水线悄悄烂掉的方式。

他最庆幸存在的一个脚本是个小看门狗,每5分钟跑一次,检查面板的node进程是否活着、健康端点是否在响应。不在就做依赖检查、重启进程、记录恢复。上线以来,这个脚本已经静默把面板从崩溃里拉回来11次。这11次他一次都没实时察觉,服务就那么一直在线。他说,只有这个数字才重要。

核心管理守护进程是另一类脚本。它每分钟检查一次NAS的核心管理进程,关键区别是:这个进程不能自动恢复——重启它造成的问题比原来的故障更糟,这是他踩过坑才学会的。所以脚本不去修它,只负责发现故障并立刻发L1告警。对于一个不能安全自动恢复的进程,快速发现就是全部的自愈策略。目标是从故障到告警两分钟,实际稳定在90秒以内。

大多数家庭实验室监控指南漏掉的东西

它们教你怎么装Prometheus和Grafana,却不告诉你最难的部分不是埋点,是校准。校准这件事,是花一周时间留意自己到底会处理哪些告警、哪些看都不看就划掉。这份功夫比更好的仪表盘值钱得多。

他衡量自己运维质量的指标只有一个:这个月有几次为它下床。现在是零,而且已经连续四个月是零,包括开头那次ZFS校验错误事件。每一次非零都是一个数据点,指向系统哪里断了:要么一条L2被错分成了L1,要么某个自愈脚本没触发,要么那确实是一条真L1,本该在白天就被自动化掉。

先建自动化,再调校准。没有告警的自动化是瞎的,没有自动化的告警只是一个寻呼机——把你叫醒来做一件bash脚本本来就能做的事。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
多所高校发文宣布“过紧日子”,压缩非必要开销,一线教师却倍感压力!高校经费收紧,不能只收紧教师报销与收入

多所高校发文宣布“过紧日子”,压缩非必要开销,一线教师却倍感压力!高校经费收紧,不能只收紧教师报销与收入

学术眺望
2026-10-20 08:10:03
王曼昱,拟记大功

王曼昱,拟记大功

新京报政事儿
2026-10-19 17:02:07
【2026.10.19】爆姐的饭后爆料:生命不止,爆料不息!

【2026.10.19】爆姐的饭后爆料:生命不止,爆料不息!

娱乐真爆姐
2026-10-20 00:39:46
留学生披旭日旗事件升级!军媒怒批,学校通报,他将迎来三大恶果

留学生披旭日旗事件升级!军媒怒批,学校通报,他将迎来三大恶果

米果说识
2026-10-20 11:33:05
香港诡异事件“鬼母煮饭”,女尸腐烂十日,幼女却说母亲每天煮饭

香港诡异事件“鬼母煮饭”,女尸腐烂十日,幼女却说母亲每天煮饭

堇色夜行
2025-01-06 22:54:42
亚马尔两送助攻缔造欧冠神迹!巴萨4-1豪揽10连胜,却刷出2大耻辱纪录

亚马尔两送助攻缔造欧冠神迹!巴萨4-1豪揽10连胜,却刷出2大耻辱纪录

林子说事
2026-10-20 08:10:15
斯瓦泰克战布娃恢复真相将出,奇景:四大满贯亚军在1000赛夺冠

斯瓦泰克战布娃恢复真相将出,奇景:四大满贯亚军在1000赛夺冠

网球之家
2026-10-20 10:14:41
缺电的越南,找来了一个狠角色

缺电的越南,找来了一个狠角色

刻面
2026-10-19 14:20:27
10月19日,退休人员养老金调整方案会公布吗?工龄30年能补1000吗

10月19日,退休人员养老金调整方案会公布吗?工龄30年能补1000吗

虎哥闲聊
2026-10-19 10:18:35
欧洲领导人:如果我们想早上吃牛角包、喝咖啡,就必须支持乌克兰

欧洲领导人:如果我们想早上吃牛角包、喝咖啡,就必须支持乌克兰

麓谷隐士
2026-10-19 00:10:04
特朗普称该换人代表乌克兰谈判

特朗普称该换人代表乌克兰谈判

澎湃新闻
2026-10-20 06:06:04
黄晓明曝离婚内幕后,杨颖直播时直言想哭,原因曝光令人意外

黄晓明曝离婚内幕后,杨颖直播时直言想哭,原因曝光令人意外

梦醉为红颜一笑
2026-10-19 15:17:31
午评:创业板指涨0.27% 人形机器人概念活跃

午评:创业板指涨0.27% 人形机器人概念活跃

证券时报
2026-10-20 11:54:05
存储芯片股集体大涨 多股涨超5%

存储芯片股集体大涨 多股涨超5%

每日经济新闻
2026-10-19 21:54:06
男网友一句赚大钱骗走15岁少女:五人施暴五小时后分尸掩埋 揭开神木命案全貌

男网友一句赚大钱骗走15岁少女:五人施暴五小时后分尸掩埋 揭开神木命案全貌

喜马故事会
2026-10-20 08:50:06
这些科技股王,为什么总输给茅台?

这些科技股王,为什么总输给茅台?

市值Observation
2026-10-20 09:47:13
李嘉诚再预言,今年不买房,明年是 “买不起” 还是 “大降价”?答案很是出人意料

李嘉诚再预言,今年不买房,明年是 “买不起” 还是 “大降价”?答案很是出人意料

巢客HOME
2026-10-19 05:50:07
大难临头各自飞!徐佳宁刚被执行2111万,李小冉就和他划清界限

大难临头各自飞!徐佳宁刚被执行2111万,李小冉就和他划清界限

老好人的愤怒
2026-10-20 10:10:10
新华社消息|外交部:严厉谴责日方涉靖国神社消极动向

新华社消息|外交部:严厉谴责日方涉靖国神社消极动向

新华社
2026-10-19 17:43:08
不管你信不信,女人不管高矮,只要腰细屁股大,身材就不会差

不管你信不信,女人不管高矮,只要腰细屁股大,身材就不会差

皓皓情感说
2026-10-19 08:35:51
2026-10-20 12:48:49
固件更新中
固件更新中
有态度网友ytd
185文章数 81关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

男子身中16刀身亡 前妻逃亡26年隐匿乡村当了妇女主任

头条要闻

男子身中16刀身亡 前妻逃亡26年隐匿乡村当了妇女主任

体育要闻

30天30队·奇才:三状元一榜眼 35胜?

娱乐要闻

港媒曝刘恺威与32岁黎纪君恋情,秘密恋爱两个月

财经要闻

这些科技股王,为什么总输给茅台?

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

亲子
健康
教育
手机
数码

亲子要闻

中荷宝宝在济南快乐吃饭的日子

痘痘能根治吗?皮肤科医生说实话

教育要闻

日常英语:玩暧昧会引起误会

手机要闻

苹果又发新品:触屏MacBook、OLED iPad mini将登场

数码要闻

达尔优COOL75磁轴键盘上市:钻石灯箱+音量触控条,499元起

无障碍浏览 进入关怀版