你部署了一个AI智能体。它跑你的RAG流水线,调用你的工具,写你的报告。一切看起来都很好——直到某天它悄悄调用了一个不该碰的工具,在零证据的情况下签下一个高风险结论,或者在第三步和第四步之间自相矛盾。
模型不笨。问题在于,智能体的"自动驾驶"没有黑匣子。飞机有黑匣子几十年了,智能体也该有。这就是 agent-audit-mcp 被开源出来的原因:一个认知黑匣子,把每一次智能体决策编码成可枚举、可比较、可复现的状态。
为什么智能体的决策这么难审计?有四类失败模式,你可能已经遇到过:
- 权限越界——它碰了范围之外的工具或数据集。
- 无证据的高风险结论——满仓交易、删除操作、对外承诺,全都没有依据。
- 无法追溯的引用——结论是对的,但你不知道它从哪来。
- 状态跳变逃逸——第一步保守,第二步激进,中间什么都没有。
难点在于:决策是一个过程,而日志只是一条流。要让过程可审计,首先得把"一个决策步"变成可枚举、可比较的状态。这是 agent-audit-mcp 的核心思路。
它沿9个观察维度描述一个决策步:结构、功能、关系、属性、时间、上下文、因果、价值、演化。每个维度取三种状态:⊕(+1)表示强/高于基线,0 表示中性,⊖(−1)表示弱/缺失。
于是,一个决策步就是一个九维三态向量,比如 0⊖0⊖000⊖0。九个三态位给出 3⁹ = 19,683 种状态,全零的中心状态枚举键为 idx = 9841。
这套编码把东方哲学里的三态思维(⊖ / 0 / ⊕)和现代AI工程接在了一起:可枚举,每个决策有唯一地址;可比较,任意两个状态之间有汉明距离;可复现,同样的输入,同样的状态,每次都是。
有了状态,审计就变成几条清晰的规则。阈值——什么算"高风险"、什么算"缺证据"——全部可以通过环境变量覆盖,方便你拿真实日志做校准。规则对你透明,不是黑匣子里再套一个黑匣子。
引擎实际跑出来的四个场景是这样的:
- 正常建议 → OK:第1步 0⊖0000000(idx=7654),第2步 0⊕0⊕00⊕⊕0(idx=12283)。没有红线,没有跳变。
- 高风险满仓建议 → ALERT:第1步 0⊖0⊖000⊖0(idx=7408)命中 v8 高风险;第2步 ⊖⊕⊖⊖⊕0⊖⊖⊕(idx=4565)命中 v7 缺证据 + v8 高风险。
- 越权查询加选股 → BLOCK:第1步 0⊖⊖⊖0⊖⊖00(idx=6646)命中 v6 越界 + v7 缺证据;第2步 ⊕⊕⊖00⊖0⊖0(idx=17830)命中 v6 越界 + v8 高风险。
- 状态跳变逃逸 → WATCH:一步之内从 0⊖0000000 跳到 ⊕⊕⊕⊕⊕00⊕⊕(idx=19646),汉明距离为 7,触发人工复核。
每一步都会报告它的九维向量、idx、平衡值 bal、命中的红线,以及建议的处置方式。这才是一个你真能读得懂的黑匣子。
架构上,智能体编排器一边接日志钩子输出信号,一边走九维审计生成九维状态,再做轨迹审计,最后产出 OK/WATCH/ALERT/BLOCK 四级报告。它是一个标准的 MCP 服务器,接上之后,你可以在 WorkBuddy 对话里直接说"审计这个决策步……"。
三个工具各司其职:audit_agent_step 审计单步,输出九维状态编码和红线;audit_agent_session 审计整段会话轨迹,给出四级判定和处置建议;encode_state 在九维向量和枚举键/平衡值之间互转,并计算汉明距离。
上手只要一行:pip install agent-audit-mcp,要求 Python 3.10 及以上、MCP SDK 2.0 及以上。一次调用的输入是工具调用次数、意图、证据数、引用数、是否可追溯、是否命中风险等信号,输出则包含向量、向量字符串、idx、bal、命中的红线标记,以及语义说明。
它值得关注的地方有三点。其一,纯本地、零外部依赖:编码引擎是纯数学,整个审计在本地跑,决策轨迹不离开你的机器,这既是卖点也是合规点。其二,确定且可复现:同样的输入,同样的判定,每次都是,可以直接写进合规审计报告。其三,标准 MCP:三个工具开箱即用,能作为日志钩子嵌进任何智能体流水线。
对企业来说,它把智能体治理从炼金术变成了一台可审计的状态机。
这套三态九维认知空间背后还有一篇论文:《Trinary Nine-Dimensional Cognitive Coordinate System: A Locatable and Generalizable Symbolic Cognition Layer》,DOI 为 10.5281/zenodo.23437930。
智能体会越来越自主。但"自主"不能等于"无人监管"。给每一个决策一个可枚举、可追溯的认知坐标,是让AI安全落地的基础之一。
项目以 MIT 协议开源,带 31 个测试和四场景演示,GitHub 地址为 github.com/q1z2q3-debug/agent-audit-mcp,PyPI 上可直接安装。作者留了一个问题:你的智能体踩过什么坑?下一步,是用汉明距离检测智能体的决策漂移。
合规说明:本文与所述工具只提供决策审计的编码与判定,不构成任何投资建议或证券咨询服务。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.