网易首页 > 网易号 > 正文 申请入驻

CI门禁已拦截变更,为何大模型还是跑了?

0
分享至

一个AI驱动的Terraform审查代理,在CI流水线中明明已经拒绝了存在风险的变更,但大模型却依然被调用了。这不是流程设计上的小瑕疵,而是安全边界控制中的一个关键盲区。

我最近构建了一个结合Terrascan、GitHub Actions、AWS Lambda和Gemini的AI Terraform审查代理。工作流程本身并不复杂:Terraform拉取请求触发GitHub Actions,生成Terrascan JSON报告,再由AWS Lambda调用Gemini进行审查,最终输出APPROVE、APPROVE_WITH_CHANGES或REJECT三种结论。当模型返回REJECT时,GitHub Actions工作流会以状态码1退出,从而阻止拉取请求合并。


从表面看,这套流程运转正常——有风险的变更确实被拒绝了,PR也确实被拦截了。但当我仔细审视执行路径时,发现了一个重要问题:最终结论的正确,并不能证明控制措施在正确的边界上得到了执行。

问题出在权威归属上

在最初的Lambda实现中,执行序列实际上是:先提取Terrascan的相关发现,构建提示词,然后调用Gemini,最后从AI回复中解析出结论。风险阈值被写在了提示词里,而不是在调用模型之前作为确定性控制被评估。

这意味着,流水线虽然拒绝了变更,但大模型已经运行过了。在DevOps语境下,一个写着“不要继续”的策略,应该阻止下一步动作的发生,而不是仅仅让下一步动作同意“这个请求本应被阻止”。这两者有着本质区别。

这种设计带来了三个层面的隐患。最容易被普通CI输出掩盖的,是第三个问题:测试断言无法区分两种执行路径。假设一个测试夹具包含一个HIGH严重级别的公共访问违规,常规测试可能会断言结果为REJECT。但这个断言无论流水线是在调用Gemini之前就拒绝,还是调用了Gemini然后接受其拒绝结论,都能通过。

两条路径并不等价

期望的路径是:Terrascan扫描后,由确定性策略直接判定REJECT并停止。而原始实现的实际路径是:Terrascan扫描后,先调用Gemini,解析其响应,然后才得到REJECT并停止。前者是策略前置,后者是策略后置——后者的安全边界依赖于模型判断的可靠性,而非确定性规则。

为了把这条路径变得可见,并为其添加一个确定性的CI契约,我使用了AgentInspect工具。需要说明的是,我是在上述工作流中独立测试AgentInspect的,维护者审阅了AgentInspect命令的技术准确性,但结论由我自己负责。AgentInspect并没有替代Terrascan、GitHub Actions、AWS控制或应用的安全策略。

这个案例揭示了一个容易被忽视的工程原则:在AI驱动的自动化流程中,控制点的位置比最终结果更重要。一个正确的结论,如果是在错误的边界上得出的,那么它提供的安全感本身就是一种风险。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
丑爆了像男人!《漫威金刚狼》魔形女被爆改巨乳身材

丑爆了像男人!《漫威金刚狼》魔形女被爆改巨乳身材

游民星空
2026-09-04 21:22:14
为什么高认知人群在底层就是一场灾难?命运对一个人的顶级残忍,就是给了你清醒的大脑,而你却不具备改变现实的能力

为什么高认知人群在底层就是一场灾难?命运对一个人的顶级残忍,就是给了你清醒的大脑,而你却不具备改变现实的能力

微微笑了
2026-09-03 21:25:05
焦点释疑丨同一场灾害 为何中尼遇难失联人数相差大?

焦点释疑丨同一场灾害 为何中尼遇难失联人数相差大?

极目新闻
2026-09-04 22:33:59
吴三桂被满门抄斩,次子侥幸逃脱,与陈圆圆隐居,现在后代超千人

吴三桂被满门抄斩,次子侥幸逃脱,与陈圆圆隐居,现在后代超千人

千秋历史
2026-03-17 22:10:11
痛风、风湿关节炎?一个百年古方,风热湿浊拔除了,疼痛就消除了

痛风、风湿关节炎?一个百年古方,风热湿浊拔除了,疼痛就消除了

神希园
2026-08-31 12:05:06
“小宝探花”案件回顾:疯狂约会上百名女性,一人拍摄,一人贩卖

“小宝探花”案件回顾:疯狂约会上百名女性,一人拍摄,一人贩卖

就一点
2025-12-30 21:32:02
越吃血管越通,建议中老年敞开吃,给血管洗个澡,别错过

越吃血管越通,建议中老年敞开吃,给血管洗个澡,别错过

华庭讲美食
2026-08-26 03:18:40
赵心童为何1 5惨败给特鲁姆普?赛后他毫不犹豫道出缘由,字字戳心

赵心童为何1 5惨败给特鲁姆普?赛后他毫不犹豫道出缘由,字字戳心

单色黎明s
2026-09-05 04:42:11
一觉醒来,广东宏远官方发声!徐杰收获好消息,张皓嘉又带崩球队

一觉醒来,广东宏远官方发声!徐杰收获好消息,张皓嘉又带崩球队

多特体育说
2026-09-05 10:33:50
内斗结局要来?下令逮捕莎拉,复仇之战已然打响,17万菲军成关键

内斗结局要来?下令逮捕莎拉,复仇之战已然打响,17万菲军成关键

黑鹰观军事
2026-09-05 14:44:43
43岁范冰冰受封拿督,事业疑获新大佬支持,全面进军海外市场

43岁范冰冰受封拿督,事业疑获新大佬支持,全面进军海外市场

萌神木木
2025-08-24 13:52:35
伊朗导弹没打中F-35,却打中了美军最大命门!18名美军在中东丧生

伊朗导弹没打中F-35,却打中了美军最大命门!18名美军在中东丧生

杰丝聊古今
2026-09-04 20:24:12
S妈太离谱!执意抢孙子抚养权,要和汪小菲打官司,网友:吃相太难看

S妈太离谱!执意抢孙子抚养权,要和汪小菲打官司,网友:吃相太难看

扒星人
2026-09-05 13:59:06
华为何庭波,再次更新韬定律论文

华为何庭波,再次更新韬定律论文

第一财经资讯
2026-09-04 23:03:00
韩媒谈中国亚运男足名单:他们是韩国队必须跨越的夺冠热门

韩媒谈中国亚运男足名单:他们是韩国队必须跨越的夺冠热门

懂球帝
2026-09-04 16:48:31
日本亚运会将开幕,高市却要中国5倍签证费,台专家:日本要血亏

日本亚运会将开幕,高市却要中国5倍签证费,台专家:日本要血亏

温读史
2026-09-05 00:21:08
31岁英格兰国脚转投法国,世界杯梦或就此终结

31岁英格兰国脚转投法国,世界杯梦或就此终结

元气满分吖
2026-09-04 07:00:05
人事|尹欣任上海广播电视台总编辑

人事|尹欣任上海广播电视台总编辑

广电头条
2026-09-04 23:45:45
几块钱一盒的降糖药,怎么就成了硅谷富豪眼里的长寿神药?

几块钱一盒的降糖药,怎么就成了硅谷富豪眼里的长寿神药?

徐德文科学频道
2026-09-03 12:54:09
阿劳霍首次英超首发:0次被过7次解围,6次争顶全部成功

阿劳霍首次英超首发:0次被过7次解围,6次争顶全部成功

懂球帝
2026-09-05 05:07:09
2026-09-05 15:48:49
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
249文章数 73关注度
往期回顾 全部

科技要闻

华为何庭波,再次更新韬定律论文

头条要闻

英伟达50多名尼泊尔员工请愿后 黄仁勋捐款1000万美元

头条要闻

英伟达50多名尼泊尔员工请愿后 黄仁勋捐款1000万美元

体育要闻

小卡来去10首轮,快船7年彩礼一场空

娱乐要闻

她曾被名导抛弃,凭《生逢其时》翻红

财经要闻

姚洋:刺激消费要守住两个“大西瓜”

汽车要闻

全新第四代博越Li‑HEV系列 怎么开都省

态度原创

旅游
家居
教育
数码
时尚

旅游要闻

活力中国调研行丨一边看海一边踢球 闲置老港如何变身共享海上运动场?

家居要闻

2026建博会(广州) 公装联探展交流活动

教育要闻

太厉害了吧,都不用计算,不愧是学霸!

数码要闻

NVIDIA DLSS 5未来将支持RTX 40系列 但玩家无法获得完整控制权限

杨紫:自渡成舟

无障碍浏览 进入关怀版