网易首页 > 网易号 > 正文 申请入驻

CI门禁已拦截变更,为何大模型还是跑了?

0
分享至

一个AI驱动的Terraform审查代理,在CI流水线中明明已经拒绝了存在风险的变更,但大模型却依然被调用了。这不是流程设计上的小瑕疵,而是安全边界控制中的一个关键盲区。

我最近构建了一个结合Terrascan、GitHub Actions、AWS Lambda和Gemini的AI Terraform审查代理。工作流程本身并不复杂:Terraform拉取请求触发GitHub Actions,生成Terrascan JSON报告,再由AWS Lambda调用Gemini进行审查,最终输出APPROVE、APPROVE_WITH_CHANGES或REJECT三种结论。当模型返回REJECT时,GitHub Actions工作流会以状态码1退出,从而阻止拉取请求合并。


从表面看,这套流程运转正常——有风险的变更确实被拒绝了,PR也确实被拦截了。但当我仔细审视执行路径时,发现了一个重要问题:最终结论的正确,并不能证明控制措施在正确的边界上得到了执行。

问题出在权威归属上

在最初的Lambda实现中,执行序列实际上是:先提取Terrascan的相关发现,构建提示词,然后调用Gemini,最后从AI回复中解析出结论。风险阈值被写在了提示词里,而不是在调用模型之前作为确定性控制被评估。

这意味着,流水线虽然拒绝了变更,但大模型已经运行过了。在DevOps语境下,一个写着“不要继续”的策略,应该阻止下一步动作的发生,而不是仅仅让下一步动作同意“这个请求本应被阻止”。这两者有着本质区别。

这种设计带来了三个层面的隐患。最容易被普通CI输出掩盖的,是第三个问题:测试断言无法区分两种执行路径。假设一个测试夹具包含一个HIGH严重级别的公共访问违规,常规测试可能会断言结果为REJECT。但这个断言无论流水线是在调用Gemini之前就拒绝,还是调用了Gemini然后接受其拒绝结论,都能通过。

两条路径并不等价

期望的路径是:Terrascan扫描后,由确定性策略直接判定REJECT并停止。而原始实现的实际路径是:Terrascan扫描后,先调用Gemini,解析其响应,然后才得到REJECT并停止。前者是策略前置,后者是策略后置——后者的安全边界依赖于模型判断的可靠性,而非确定性规则。

为了把这条路径变得可见,并为其添加一个确定性的CI契约,我使用了AgentInspect工具。需要说明的是,我是在上述工作流中独立测试AgentInspect的,维护者审阅了AgentInspect命令的技术准确性,但结论由我自己负责。AgentInspect并没有替代Terrascan、GitHub Actions、AWS控制或应用的安全策略。

这个案例揭示了一个容易被忽视的工程原则:在AI驱动的自动化流程中,控制点的位置比最终结果更重要。一个正确的结论,如果是在错误的边界上得出的,那么它提供的安全感本身就是一种风险。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
曾卖到900万元,如今降至300万元,杭州一学区房房价回落,今年已成交近50套

曾卖到900万元,如今降至300万元,杭州一学区房房价回落,今年已成交近50套

上观新闻
2026-09-05 19:56:16
从月销4223台跌到367台!尊界销量暴跌90%!真要歇菜了吗?

从月销4223台跌到367台!尊界销量暴跌90%!真要歇菜了吗?

玩车专家1
2026-09-05 16:28:53
尼泊尔“楼坚强”房主:因为离河近地基打得很牢,水稍退后依靠管子和绳子被接到对岸

尼泊尔“楼坚强”房主:因为离河近地基打得很牢,水稍退后依靠管子和绳子被接到对岸

红星新闻
2026-09-05 17:15:20
贺娇龙葬于父亲墓旁,坟茔朴素,母亲谢绝给女儿立雕像,为什么?

贺娇龙葬于父亲墓旁,坟茔朴素,母亲谢绝给女儿立雕像,为什么?

新民周刊
2026-09-05 16:54:09
中国工程院院士、中国海洋大学原校长管华诗同志在青岛逝世,享年87岁

中国工程院院士、中国海洋大学原校长管华诗同志在青岛逝世,享年87岁

闪电新闻
2026-09-05 15:45:23
突发!巨人史玉柱套现80亿走人,收到警示函

突发!巨人史玉柱套现80亿走人,收到警示函

大厂财经社
2026-09-05 01:08:40
“1998·11·14”命案告破,内蒙古警方通报:潜逃28年的嫌疑人张某被抓获,对犯罪事实供认不讳

“1998·11·14”命案告破,内蒙古警方通报:潜逃28年的嫌疑人张某被抓获,对犯罪事实供认不讳

极目新闻
2026-09-05 00:12:26
重磅!两大央企集团重组!

重磅!两大央企集团重组!

新浪财经
2026-09-05 10:10:35
君子报仇十年不晚!72名以议员直接绕开中国,支持台湾加入国际组织,可他们没想到中国转头支持巴勒斯坦建国

君子报仇十年不晚!72名以议员直接绕开中国,支持台湾加入国际组织,可他们没想到中国转头支持巴勒斯坦建国

扶苏聊历史
2026-09-05 17:13:58
65岁刘德华登新闻联播冲上热搜:四十载沉淀,影协副主席职位加身

65岁刘德华登新闻联播冲上热搜:四十载沉淀,影协副主席职位加身

行者聊官
2026-09-04 17:29:47
太震撼了!刷屏!上海今日晚霞氛围感直接拉满!

太震撼了!刷屏!上海今日晚霞氛围感直接拉满!

上观新闻
2026-09-05 19:19:32
突发!广东一知名连锁餐饮店出大事了!

突发!广东一知名连锁餐饮店出大事了!

东莞好生活
2026-09-05 17:22:17
1969年,李宗仁病重,临终前嘱咐30岁妻子:有机会替我看望一下秀文

1969年,李宗仁病重,临终前嘱咐30岁妻子:有机会替我看望一下秀文

大运河时空
2026-09-04 10:55:03
袁腾飞移民美国的几个细节问题

袁腾飞移民美国的几个细节问题

十柱
2026-09-05 10:15:57
一夜缩水四成!欧盟重拳落地,中国跨境电商低价出海时代彻底落幕

一夜缩水四成!欧盟重拳落地,中国跨境电商低价出海时代彻底落幕

江启
2026-09-05 11:05:17
刘建业下课,本赛季害惨了向余望

刘建业下课,本赛季害惨了向余望

体育全天候
2026-09-05 17:13:45
女子连续数月口服避孕药,1天坐车最多12小时,一周内横跨多个城市……差点遭遇“夺命杀手”!提醒:这种病不是老年人的专利

女子连续数月口服避孕药,1天坐车最多12小时,一周内横跨多个城市……差点遭遇“夺命杀手”!提醒:这种病不是老年人的专利

深圳晚报
2026-09-05 18:47:41
高校思政专职教师数量越多,我们离诺贝尔奖越远

高校思政专职教师数量越多,我们离诺贝尔奖越远

细雨中的呼喊
2026-09-05 07:04:43
离谱啊!女子连续多年捐款,停捐仅一个月,就被基金会来电质问:为啥不捐了?网友:捐出义务来了!

离谱啊!女子连续多年捐款,停捐仅一个月,就被基金会来电质问:为啥不捐了?网友:捐出义务来了!

谭谈社会
2026-09-04 17:32:28
635斤重东北小伙到武汉减肥,坐不了飞机高铁,家人包车开23小时,在ICU住了13天,计划先减100斤再手术

635斤重东北小伙到武汉减肥,坐不了飞机高铁,家人包车开23小时,在ICU住了13天,计划先减100斤再手术

上观新闻
2026-09-05 18:33:52
2026-09-05 20:48:49
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
258文章数 73关注度
往期回顾 全部

科技要闻

华为何庭波,再次更新韬定律论文

头条要闻

菲副总统莎拉最新发声:我会被杀 我不信任法院、警察

头条要闻

菲副总统莎拉最新发声:我会被杀 我不信任法院、警察

体育要闻

科比和勒布朗:冠军年份的背身

娱乐要闻

她曾被名导抛弃,凭《生逢其时》翻红

财经要闻

被曝试药后死亡,药企董事竟怒怼记者

汽车要闻

全新第四代博越Li‑HEV系列 怎么开都省

态度原创

艺术
手机
旅游
教育
军事航空

艺术要闻

吴冠中 画了幅故乡,值1395万!

手机要闻

华为Mate XT 2首发硬件级防窥屏:独立RGB像素驱动 不影响显示素质

旅游要闻

沪上这一新晋打卡点 浓缩了苏州河120年的记忆

教育要闻

代际传递创伤:孩子叛逆是因为妈妈从来没被尊重过

军事要闻

俄罗斯建"粉碎大日本帝国"纪念碑 日本急了

无障碍浏览 进入关怀版