网易首页 > 网易号 > 正文 申请入驻

凌晨3点被报警叫醒?他把六成告警删了,反而睡了四个月好觉

0
分享至

凌晨3点17分,手机震了一下。他眯着眼解锁,屏幕上写着:ZFS存储池降级,3号盘校验错误持续增加,建议执行scrub。


他看了四秒,把手机放下,继续睡。第二天喝完咖啡才跑了一遍scrub,池子没事,那块盘进了每周观察名单。

这个故事之所以无聊,之所以他能接着睡,是因为系统本来就是被设计成"无聊"的。一年前不是这样——那时候他得等存储池进入严重的降级状态才会知道出了问题,而那种通知在凌晨3点收到,完全是另一回事。

大多数监控失效,其实是校准失效

系统什么都盯,什么都报,结果什么都报就等于什么都没报。人开始忽略告警,然后错过真正重要的那一条。

他用来校准的问题只有一个:如果我忽略这条告警8小时,最坏会怎样?

这一个问题,几乎能把所有告警分进三个桶里。

  • L1——立刻叫醒我。数据丢失风险,比如多块盘故障导致存储池降级;安全入侵迹象,比如异常外联、陌生IP的认证失败;有真实外部暴露的服务,比如定时自动化流水线停摆。这类走高优先级推送,会把他叫醒。全部加起来大概五条。
  • L2——醒着的时候告诉我。降级但稳定,比如单块盘校验错误升高、单个容器崩溃后自动重启;错误率上升但还没影响服务;磁盘健康趋势走坏。这类走普通优先级推送,不叫醒人,配咖啡看。
  • L3——只记日志,不告警。其余全部:备份完成、定时任务结果、健康检查成功、例行scrub结果。这些进日志,永远不进推送。

第一次套用这套框架时,他删掉了大约60%的存量告警。响应质量上去了,告警疲劳下来了,睡眠质量跟着改善。

整套监控栈,运行成本为零

服务可用性用Uptime Kuma,按计划巡检每个服务,宕机告警里带足够上下文,不用登录就能判断严重程度。系统指标用Netdata,CPU、内存、ZFS池健康、网络吞吐实时看。磁盘健康用Scrutiny,把SMART数据聚合起来做趋势,故障之前就能看到退化。推送用ntfy,通知里带告警级别、受影响服务、一行建议动作。

整套东西跑在自建基础设施上,没有云依赖,没有SaaS费用。

他的判断很直接:没有校准过的告警系统,比没有告警还糟。

自愈脚本:先解决八成

真正改变一切的思路转换是:别再问"坏了之后我怎么修",改问"我怎么让它坏了之后自己修"。第二个问题的答案,几乎总是一个二十行的bash脚本——检查一个条件,执行一个动作。写一次,挂在定时任务上跑到天荒地老。

每个自愈脚本都遵循同一套结构:检查一个条件,只执行一个动作,记录结果,失败时通知。关键约束是"只执行一个动作"——想耍聪明走多条恢复路径的脚本会变得不可预测。一次检查,一个动作,没解决就升级。

他的NAS上实际跑着这些:

  • ZFS健康检查,每6小时一次。从zpool status读校验错误计数,超过阈值立刻触发scrub并发L2通知;scrub结束后记日志并跟进——错误清掉就记录,错误持续就升级到L1。他已经好几个月没手动发起过scrub。
  • 容器健康检查,每5分钟一次。检查每个Docker容器是否处于unhealthy或exited状态,命中就按指数退避重启:等1分钟,再等5分钟,再等15分钟。连续第三次失败升级到L1并停止重试。这样瞬时崩溃循环不会叫醒他,真正的故障还是能抓到。
  • Ollama推理检查,每10分钟一次。向推理端点发一个最小测试提示,连续三次失败触发容器重启,重启后还要验证端点健康才算恢复。Ollama现在是他一半自动化栈的承重墙,静默失败不可接受。
  • n8n工作流队列检查,每10分钟一次。队列深度超过阈值持续10分钟以上,就重启n8n worker并记录触发事件。没人注意的工作流积压,就是自动化流水线悄悄烂掉的方式。

他最庆幸存在的一个脚本是个小看门狗,每5分钟跑一次,检查面板的node进程是否活着、健康端点是否在响应。不在就做依赖检查、重启进程、记录恢复。上线以来,这个脚本已经静默把面板从崩溃里拉回来11次。这11次他一次都没实时察觉,服务就那么一直在线。他说,只有这个数字才重要。

核心管理守护进程是另一类脚本。它每分钟检查一次NAS的核心管理进程,关键区别是:这个进程不能自动恢复——重启它造成的问题比原来的故障更糟,这是他踩过坑才学会的。所以脚本不去修它,只负责发现故障并立刻发L1告警。对于一个不能安全自动恢复的进程,快速发现就是全部的自愈策略。目标是从故障到告警两分钟,实际稳定在90秒以内。

大多数家庭实验室监控指南漏掉的东西

它们教你怎么装Prometheus和Grafana,却不告诉你最难的部分不是埋点,是校准。校准这件事,是花一周时间留意自己到底会处理哪些告警、哪些看都不看就划掉。这份功夫比更好的仪表盘值钱得多。

他衡量自己运维质量的指标只有一个:这个月有几次为它下床。现在是零,而且已经连续四个月是零,包括开头那次ZFS校验错误事件。每一次非零都是一个数据点,指向系统哪里断了:要么一条L2被错分成了L1,要么某个自愈脚本没触发,要么那确实是一条真L1,本该在白天就被自动化掉。

先建自动化,再调校准。没有告警的自动化是瞎的,没有自动化的告警只是一个寻呼机——把你叫醒来做一件bash脚本本来就能做的事。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
也门一军事基地遭导弹袭击致53死200余伤

也门一军事基地遭导弹袭击致53死200余伤

新华社
2026-10-19 22:11:32
一整船新iPhone在霍尔木兹海峡沉了,有当地人打捞后当场出售;苹果客服:不会让这批有瑕疵的货物二次流入市场

一整船新iPhone在霍尔木兹海峡沉了,有当地人打捞后当场出售;苹果客服:不会让这批有瑕疵的货物二次流入市场

华商网
2026-10-19 15:00:22
离婚6天被前夫喊去帮忙立遗嘱,35岁女子用AI意外救下前夫哥一命……

离婚6天被前夫喊去帮忙立遗嘱,35岁女子用AI意外救下前夫哥一命……

蓬勃新闻
2026-10-19 12:34:38
为什么暴乱总发生在法国?

为什么暴乱总发生在法国?

西游日记
2026-10-19 08:49:07
山东打响第一枪:“个人是养老第一责任人”

山东打响第一枪:“个人是养老第一责任人”

毒哥的毒鸡汤
2026-10-19 16:38:18
豆包回应“国内超一半算力在造爽剧”:字节只有约10%算力用于视频生成模型的训练和推理

豆包回应“国内超一半算力在造爽剧”:字节只有约10%算力用于视频生成模型的训练和推理

澎湃新闻
2026-10-19 13:08:27
刘强东硬刚抖音,引爆全网!

刘强东硬刚抖音,引爆全网!

大佬灼见
2026-10-19 22:42:34
重罚!曝曼城本赛季将面临巨额罚款+扣分确保降级 下赛季还会扣分

重罚!曝曼城本赛季将面临巨额罚款+扣分确保降级 下赛季还会扣分

我爱英超
2026-10-19 22:01:08
上海大胜北控:张镇麟28分屡秀暴扣 廖三宁34+5+4创生涯纪录

上海大胜北控:张镇麟28分屡秀暴扣 廖三宁34+5+4创生涯纪录

醉卧浮生
2026-10-19 21:26:25
日本网友:福原爱穿透视装出镜看着真让人难受 她以前可是国民妹妹

日本网友:福原爱穿透视装出镜看着真让人难受 她以前可是国民妹妹

劲爆体坛
2026-10-18 07:59:06
泽连斯基下令袭击普京家乡,此前鲁比奥说乌未获“星盾”使用权打击俄本土

泽连斯基下令袭击普京家乡,此前鲁比奥说乌未获“星盾”使用权打击俄本土

新民周刊
2026-10-19 13:12:33
又一个龟男的世界崩塌了!网传绍兴一男子遇到妻子和情人约会,咆哮每月1.3万工资,1.25万上交老婆

又一个龟男的世界崩塌了!网传绍兴一男子遇到妻子和情人约会,咆哮每月1.3万工资,1.25万上交老婆

火山詩话
2026-10-19 15:16:53
3.23亿老人背后,“个人是养老第一责任人”,这话到底说给谁听?

3.23亿老人背后,“个人是养老第一责任人”,这话到底说给谁听?

八荒果子
2026-10-19 10:39:31
华尔街传出噩耗,全球股市一夜崩溃,韩国熔断跌8%,金融危机要来

华尔街传出噩耗,全球股市一夜崩溃,韩国熔断跌8%,金融危机要来

关权教授聊经济
2026-10-19 15:42:06
商家称53万元直播合作成交3672.8元 交个朋友回应:未违约,愿补播协商

商家称53万元直播合作成交3672.8元 交个朋友回应:未违约,愿补播协商

封面新闻
2026-10-19 17:41:43
明明中国的人均收入很低,但为啥老百姓的生活比发达国家都要好?

明明中国的人均收入很低,但为啥老百姓的生活比发达国家都要好?

李健政观察
2026-10-18 10:32:07
大瓜!邯郸篮球直播忘关麦事件

大瓜!邯郸篮球直播忘关麦事件

新动察
2026-10-19 15:09:35
破解 AI 推理效率困局,详解华为 OceanStor M900 AI记忆存储新基建 | 前沿在线

破解 AI 推理效率困局,详解华为 OceanStor M900 AI记忆存储新基建 | 前沿在线

前沿在线
2026-10-08 21:34:14
证监会新规直指违规减持乱象,减持比例超5%、金额超5亿将被重罚

证监会新规直指违规减持乱象,减持比例超5%、金额超5亿将被重罚

第一财经资讯
2026-10-19 19:26:44
李小冉发文承认离婚:“去年已离互不牵扯,互不打扰,祝各自安好”

李小冉发文承认离婚:“去年已离互不牵扯,互不打扰,祝各自安好”

韩小娱
2026-10-19 20:06:00
2026-10-20 04:39:00
固件更新中
固件更新中
有态度网友ytd
165文章数 81关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

中国留学生披旭日旗事件最新进展:目前已被遣返

头条要闻

中国留学生披旭日旗事件最新进展:目前已被遣返

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

健康
旅游
本地
亲子
手机

看着很健康的人,怎么会突然猝死?

旅游要闻

换个思路,北京的冷门博物馆也好逛

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

亲子要闻

无论和谁相处,这八个忠告一定要牢记!

手机要闻

2026年三季度印度智能手机市场遇冷,iPhone销量下滑20%

无障碍浏览 进入关怀版