网易首页 > 网易号 > 正文 申请入驻

一个决策步拆成9维三态,3⁹=19683种状态,AI黑匣子开源了

0
分享至

你部署了一个AI智能体。它跑你的RAG流水线,调用你的工具,写你的报告。一切看起来都很好——直到某天它悄悄调用了一个不该碰的工具,在零证据的情况下签下一个高风险结论,或者在第三步和第四步之间自相矛盾。

模型不笨。问题在于,智能体的"自动驾驶"没有黑匣子。飞机有黑匣子几十年了,智能体也该有。这就是 agent-audit-mcp 被开源出来的原因:一个认知黑匣子,把每一次智能体决策编码成可枚举、可比较、可复现的状态。

为什么智能体的决策这么难审计?有四类失败模式,你可能已经遇到过:

  • 权限越界——它碰了范围之外的工具或数据集。
  • 无证据的高风险结论——满仓交易、删除操作、对外承诺,全都没有依据。
  • 无法追溯的引用——结论是对的,但你不知道它从哪来。
  • 状态跳变逃逸——第一步保守,第二步激进,中间什么都没有。

难点在于:决策是一个过程,而日志只是一条流。要让过程可审计,首先得把"一个决策步"变成可枚举、可比较的状态。这是 agent-audit-mcp 的核心思路。

它沿9个观察维度描述一个决策步:结构、功能、关系、属性、时间、上下文、因果、价值、演化。每个维度取三种状态:⊕(+1)表示强/高于基线,0 表示中性,⊖(−1)表示弱/缺失。

于是,一个决策步就是一个九维三态向量,比如 0⊖0⊖000⊖0。九个三态位给出 3⁹ = 19,683 种状态,全零的中心状态枚举键为 idx = 9841。

这套编码把东方哲学里的三态思维(⊖ / 0 / ⊕)和现代AI工程接在了一起:可枚举,每个决策有唯一地址;可比较,任意两个状态之间有汉明距离;可复现,同样的输入,同样的状态,每次都是。

有了状态,审计就变成几条清晰的规则。阈值——什么算"高风险"、什么算"缺证据"——全部可以通过环境变量覆盖,方便你拿真实日志做校准。规则对你透明,不是黑匣子里再套一个黑匣子。

引擎实际跑出来的四个场景是这样的:

  • 正常建议 → OK:第1步 0⊖0000000(idx=7654),第2步 0⊕0⊕00⊕⊕0(idx=12283)。没有红线,没有跳变。
  • 高风险满仓建议 → ALERT:第1步 0⊖0⊖000⊖0(idx=7408)命中 v8 高风险;第2步 ⊖⊕⊖⊖⊕0⊖⊖⊕(idx=4565)命中 v7 缺证据 + v8 高风险。
  • 越权查询加选股 → BLOCK:第1步 0⊖⊖⊖0⊖⊖00(idx=6646)命中 v6 越界 + v7 缺证据;第2步 ⊕⊕⊖00⊖0⊖0(idx=17830)命中 v6 越界 + v8 高风险。
  • 状态跳变逃逸 → WATCH:一步之内从 0⊖0000000 跳到 ⊕⊕⊕⊕⊕00⊕⊕(idx=19646),汉明距离为 7,触发人工复核。

每一步都会报告它的九维向量、idx、平衡值 bal、命中的红线,以及建议的处置方式。这才是一个你真能读得懂的黑匣子。

架构上,智能体编排器一边接日志钩子输出信号,一边走九维审计生成九维状态,再做轨迹审计,最后产出 OK/WATCH/ALERT/BLOCK 四级报告。它是一个标准的 MCP 服务器,接上之后,你可以在 WorkBuddy 对话里直接说"审计这个决策步……"。

三个工具各司其职:audit_agent_step 审计单步,输出九维状态编码和红线;audit_agent_session 审计整段会话轨迹,给出四级判定和处置建议;encode_state 在九维向量和枚举键/平衡值之间互转,并计算汉明距离。

上手只要一行:pip install agent-audit-mcp,要求 Python 3.10 及以上、MCP SDK 2.0 及以上。一次调用的输入是工具调用次数、意图、证据数、引用数、是否可追溯、是否命中风险等信号,输出则包含向量、向量字符串、idx、bal、命中的红线标记,以及语义说明。

它值得关注的地方有三点。其一,纯本地、零外部依赖:编码引擎是纯数学,整个审计在本地跑,决策轨迹不离开你的机器,这既是卖点也是合规点。其二,确定且可复现:同样的输入,同样的判定,每次都是,可以直接写进合规审计报告。其三,标准 MCP:三个工具开箱即用,能作为日志钩子嵌进任何智能体流水线。

对企业来说,它把智能体治理从炼金术变成了一台可审计的状态机。

这套三态九维认知空间背后还有一篇论文:《Trinary Nine-Dimensional Cognitive Coordinate System: A Locatable and Generalizable Symbolic Cognition Layer》,DOI 为 10.5281/zenodo.23437930。

智能体会越来越自主。但"自主"不能等于"无人监管"。给每一个决策一个可枚举、可追溯的认知坐标,是让AI安全落地的基础之一。

项目以 MIT 协议开源,带 31 个测试和四场景演示,GitHub 地址为 github.com/q1z2q3-debug/agent-audit-mcp,PyPI 上可直接安装。作者留了一个问题:你的智能体踩过什么坑?下一步,是用汉明距离检测智能体的决策漂移。

合规说明:本文与所述工具只提供决策审计的编码与判定,不构成任何投资建议或证券咨询服务。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
他刚入行就被30个剧组拒绝,得了焦虑症待业在家1年,如今爆红了

他刚入行就被30个剧组拒绝,得了焦虑症待业在家1年,如今爆红了

追影客栈
2026-10-18 16:58:34
扎心了!又跑步跑死一个,才25岁……

扎心了!又跑步跑死一个,才25岁……

丫头舫
2026-10-16 11:02:03
Apple Watch Series12体验:这才是真·智能手表

Apple Watch Series12体验:这才是真·智能手表

三易生活
2026-10-19 19:23:27
34℃!冷空气今天抵达浙江,局地中到大雨,今明降温6-8℃,22日早晨最低14℃上下!24—25日沿海部分大到暴雨,26-28日还有一股冷空气要来

34℃!冷空气今天抵达浙江,局地中到大雨,今明降温6-8℃,22日早晨最低14℃上下!24—25日沿海部分大到暴雨,26-28日还有一股冷空气要来

台州交通广播
2026-10-20 01:02:57
皇马主场4比1击败塞维利亚,姆巴佩两球,居莱尔轰出世界波

皇马主场4比1击败塞维利亚,姆巴佩两球,居莱尔轰出世界波

夜白侃球
2026-10-20 08:17:27
嫁到乌克兰的华人感慨:别听媒体吹牛,乌克兰相当于我国三线城市

嫁到乌克兰的华人感慨:别听媒体吹牛,乌克兰相当于我国三线城市

北海史记
2026-10-15 08:23:54
格力技校迎开学第一课,超600名学生入学,校长董明珠现身授课,称希望有人15年后可以“坐上她这个位置”

格力技校迎开学第一课,超600名学生入学,校长董明珠现身授课,称希望有人15年后可以“坐上她这个位置”

极目新闻
2026-10-19 20:10:32
14名前海陆队员落网!伪装成保洁,偷偷运送大批现金交给马科斯

14名前海陆队员落网!伪装成保洁,偷偷运送大批现金交给马科斯

淡淡稻花香s
2026-10-18 21:27:12
11月1日起新规施行, 用个人码收款未申报, 主动补缴为何不能免罚 ?

11月1日起新规施行, 用个人码收款未申报, 主动补缴为何不能免罚 ?

社会日日鲜
2026-10-19 06:27:19
哪本小说让你叹服作者功底?网友:看完直呼作者真有东西

哪本小说让你叹服作者功底?网友:看完直呼作者真有东西

另子维爱读史
2026-10-18 20:49:35
男子酒后按摩睡死,醒来被女技师拉住:“做了加钱的按摩得补钱!”刚出门就被按倒罚款500

男子酒后按摩睡死,醒来被女技师拉住:“做了加钱的按摩得补钱!”刚出门就被按倒罚款500

一丝不苟的法律人
2026-10-19 17:06:09
中华人民共和国正式宣告两件大事:第一件就是,我们的福建舰航母正式服役了,中国海军从此迈入三航母时代

中华人民共和国正式宣告两件大事:第一件就是,我们的福建舰航母正式服役了,中国海军从此迈入三航母时代

回京历史梦
2026-09-10 14:07:25
高盛释放信号:人民币被低估20-25%!中国房产或迎全球资本围猎

高盛释放信号:人民币被低估20-25%!中国房产或迎全球资本围猎

原来仙女不讲理
2026-10-19 17:40:09
《花少 8》最讨厌的嘉宾:无聊、殷勤、没边界,殷桃看都不想看他

《花少 8》最讨厌的嘉宾:无聊、殷勤、没边界,殷桃看都不想看他

洲洲影视娱评
2026-10-19 13:39:29
中国真的帮大忙,金正恩治下的朝鲜发生大变化

中国真的帮大忙,金正恩治下的朝鲜发生大变化

张嘴说财经
2026-10-19 22:15:46
2027年将会是中华人民共和国全党、全军、全国各族人民重要的一年

2027年将会是中华人民共和国全党、全军、全国各族人民重要的一年

铁锤侃侃而谈
2026-09-12 00:54:59
王曼昱,拟记大功

王曼昱,拟记大功

新京报政事儿
2026-10-19 17:02:07
缺谁谁尴尬!维尼修斯现身伯纳乌看台观战,目睹皇马主场大胜

缺谁谁尴尬!维尼修斯现身伯纳乌看台观战,目睹皇马主场大胜

懂球帝
2026-10-19 08:08:08
默茨被要求辞职:若德国对你如此宝贵,去找德总统解除你的职务

默茨被要求辞职:若德国对你如此宝贵,去找德总统解除你的职务

麓谷隐士
2026-10-20 00:05:04
胡蝶与戴笠的真实样貌:并非演员扮演,而是货真价实的罕见历史照片

胡蝶与戴笠的真实样貌:并非演员扮演,而是货真价实的罕见历史照片

明月清风阁
2026-09-22 14:25:13
2026-10-20 08:35:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
173文章数 108关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

特朗普狠批泽连斯基"不想结束战争" 泽连斯基强硬回怼

头条要闻

特朗普狠批泽连斯基"不想结束战争" 泽连斯基强硬回怼

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

健康
家居
游戏
教育
时尚

看着很健康的人,怎么会突然猝死?

家居要闻

2026建博会(广州) 公装联探展交流活动

《边缘行者2》首集免费直播 其余9集需在Netflix观看

教育要闻

中等生直接去括号,学霸都先乘上这个数

中国第一位女指挥:97岁,不退休,不退场

无障碍浏览 进入关怀版