网易首页 > 网易号 > 正文 申请入驻

一个决策步拆成9维三态,3⁹=19683种状态,AI黑匣子开源了

0
分享至

你部署了一个AI智能体。它跑你的RAG流水线,调用你的工具,写你的报告。一切看起来都很好——直到某天它悄悄调用了一个不该碰的工具,在零证据的情况下签下一个高风险结论,或者在第三步和第四步之间自相矛盾。

模型不笨。问题在于,智能体的"自动驾驶"没有黑匣子。飞机有黑匣子几十年了,智能体也该有。这就是 agent-audit-mcp 被开源出来的原因:一个认知黑匣子,把每一次智能体决策编码成可枚举、可比较、可复现的状态。

为什么智能体的决策这么难审计?有四类失败模式,你可能已经遇到过:

  • 权限越界——它碰了范围之外的工具或数据集。
  • 无证据的高风险结论——满仓交易、删除操作、对外承诺,全都没有依据。
  • 无法追溯的引用——结论是对的,但你不知道它从哪来。
  • 状态跳变逃逸——第一步保守,第二步激进,中间什么都没有。

难点在于:决策是一个过程,而日志只是一条流。要让过程可审计,首先得把"一个决策步"变成可枚举、可比较的状态。这是 agent-audit-mcp 的核心思路。

它沿9个观察维度描述一个决策步:结构、功能、关系、属性、时间、上下文、因果、价值、演化。每个维度取三种状态:⊕(+1)表示强/高于基线,0 表示中性,⊖(−1)表示弱/缺失。

于是,一个决策步就是一个九维三态向量,比如 0⊖0⊖000⊖0。九个三态位给出 3⁹ = 19,683 种状态,全零的中心状态枚举键为 idx = 9841。

这套编码把东方哲学里的三态思维(⊖ / 0 / ⊕)和现代AI工程接在了一起:可枚举,每个决策有唯一地址;可比较,任意两个状态之间有汉明距离;可复现,同样的输入,同样的状态,每次都是。

有了状态,审计就变成几条清晰的规则。阈值——什么算"高风险"、什么算"缺证据"——全部可以通过环境变量覆盖,方便你拿真实日志做校准。规则对你透明,不是黑匣子里再套一个黑匣子。

引擎实际跑出来的四个场景是这样的:

  • 正常建议 → OK:第1步 0⊖0000000(idx=7654),第2步 0⊕0⊕00⊕⊕0(idx=12283)。没有红线,没有跳变。
  • 高风险满仓建议 → ALERT:第1步 0⊖0⊖000⊖0(idx=7408)命中 v8 高风险;第2步 ⊖⊕⊖⊖⊕0⊖⊖⊕(idx=4565)命中 v7 缺证据 + v8 高风险。
  • 越权查询加选股 → BLOCK:第1步 0⊖⊖⊖0⊖⊖00(idx=6646)命中 v6 越界 + v7 缺证据;第2步 ⊕⊕⊖00⊖0⊖0(idx=17830)命中 v6 越界 + v8 高风险。
  • 状态跳变逃逸 → WATCH:一步之内从 0⊖0000000 跳到 ⊕⊕⊕⊕⊕00⊕⊕(idx=19646),汉明距离为 7,触发人工复核。

每一步都会报告它的九维向量、idx、平衡值 bal、命中的红线,以及建议的处置方式。这才是一个你真能读得懂的黑匣子。

架构上,智能体编排器一边接日志钩子输出信号,一边走九维审计生成九维状态,再做轨迹审计,最后产出 OK/WATCH/ALERT/BLOCK 四级报告。它是一个标准的 MCP 服务器,接上之后,你可以在 WorkBuddy 对话里直接说"审计这个决策步……"。

三个工具各司其职:audit_agent_step 审计单步,输出九维状态编码和红线;audit_agent_session 审计整段会话轨迹,给出四级判定和处置建议;encode_state 在九维向量和枚举键/平衡值之间互转,并计算汉明距离。

上手只要一行:pip install agent-audit-mcp,要求 Python 3.10 及以上、MCP SDK 2.0 及以上。一次调用的输入是工具调用次数、意图、证据数、引用数、是否可追溯、是否命中风险等信号,输出则包含向量、向量字符串、idx、bal、命中的红线标记,以及语义说明。

它值得关注的地方有三点。其一,纯本地、零外部依赖:编码引擎是纯数学,整个审计在本地跑,决策轨迹不离开你的机器,这既是卖点也是合规点。其二,确定且可复现:同样的输入,同样的判定,每次都是,可以直接写进合规审计报告。其三,标准 MCP:三个工具开箱即用,能作为日志钩子嵌进任何智能体流水线。

对企业来说,它把智能体治理从炼金术变成了一台可审计的状态机。

这套三态九维认知空间背后还有一篇论文:《Trinary Nine-Dimensional Cognitive Coordinate System: A Locatable and Generalizable Symbolic Cognition Layer》,DOI 为 10.5281/zenodo.23437930。

智能体会越来越自主。但"自主"不能等于"无人监管"。给每一个决策一个可枚举、可追溯的认知坐标,是让AI安全落地的基础之一。

项目以 MIT 协议开源,带 31 个测试和四场景演示,GitHub 地址为 github.com/q1z2q3-debug/agent-audit-mcp,PyPI 上可直接安装。作者留了一个问题:你的智能体踩过什么坑?下一步,是用汉明距离检测智能体的决策漂移。

合规说明:本文与所述工具只提供决策审计的编码与判定,不构成任何投资建议或证券咨询服务。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
炸裂!章子怡套现巨款走人

炸裂!章子怡套现巨款走人

新浪财经
2026-10-18 21:45:22
国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

国庆刚过又一内鬼泄密被揪!身份曝光央视发声,网友:严惩叛国贼

新一说史
2026-10-19 14:11:39
驴友在4500米亚丁高反离世,期间姐姐全网求免费直升机,牧民报价1万被她拉黑

驴友在4500米亚丁高反离世,期间姐姐全网求免费直升机,牧民报价1万被她拉黑

可达鸭面面观
2026-10-19 21:43:29
每月1000多社保占了工资的一半!社保扩面找得到人,却恐怕留不住人

每月1000多社保占了工资的一半!社保扩面找得到人,却恐怕留不住人

三言四拍
2026-10-19 20:26:19
菲律宾有人继续搞鬼,想对我大使如何?

菲律宾有人继续搞鬼,想对我大使如何?

新民周刊
2026-10-20 09:06:39
删帖、全网屏蔽:法务部越强,车越不能买!

删帖、全网屏蔽:法务部越强,车越不能买!

章北海
2026-10-19 22:19:23
加拿大媒体曝出惊人消息!一名华人因参加1979年对越自卫反击战被启动驱逐程序!

加拿大媒体曝出惊人消息!一名华人因参加1979年对越自卫反击战被启动驱逐程序!

水泥土的搞笑
2026-10-20 05:44:22
52岁刘恺威新恋情曝光,与小20岁黎纪君十指紧扣逛街甜似初恋

52岁刘恺威新恋情曝光,与小20岁黎纪君十指紧扣逛街甜似初恋

开开森森
2026-10-20 09:26:14
紫牛热点|一家三口被困豪华酒店卫生间超4小时,喷淋失控水漫楼道,一岁多幼儿险失温

紫牛热点|一家三口被困豪华酒店卫生间超4小时,喷淋失控水漫楼道,一岁多幼儿险失温

扬子晚报
2026-10-20 09:37:31
湖南女网红晚安安从35楼坠落生还:从ICU出来父母叫我“宝宝崽崽”,感觉重新过了童年;回忆坠楼经历称当天记忆空白,不知道怎么发生的

湖南女网红晚安安从35楼坠落生还:从ICU出来父母叫我“宝宝崽崽”,感觉重新过了童年;回忆坠楼经历称当天记忆空白,不知道怎么发生的

蓬勃新闻
2026-10-20 06:36:31
赖昌星最狠的一招,就是用天价豢养空姐周兵,攻破了海关关长的防线;私生子降生的那一刻,530亿走私帝国的遮羞布被彻底撕碎

赖昌星最狠的一招,就是用天价豢养空姐周兵,攻破了海关关长的防线;私生子降生的那一刻,530亿走私帝国的遮羞布被彻底撕碎

人生录
2026-10-20 00:05:11
马斯克在 X 上发帖暗示:全球美元加起来,恐怕都不够 AI 巨头用了!

马斯克在 X 上发帖暗示:全球美元加起来,恐怕都不够 AI 巨头用了!

混沌录
2026-10-20 00:38:08
一次精日作死,彻底毁掉一辈子:留学生陈宇昕面临的四条绝路

一次精日作死,彻底毁掉一辈子:留学生陈宇昕面临的四条绝路

莫地方
2026-10-19 22:38:55
以色列总理下令推翻伊朗政权

以色列总理下令推翻伊朗政权

新京报
2026-10-20 07:04:07
今天金鸡提名名单一出来,全网都在刷同一个词:离谱。

今天金鸡提名名单一出来,全网都在刷同一个词:离谱。

东方不败然多多
2026-10-20 10:00:38
葡媒:C罗只用39秒就支付了国家队“严重违规”的罚款

葡媒:C罗只用39秒就支付了国家队“严重违规”的罚款

懂球帝
2026-10-20 02:39:12
李小冉发文承认离婚:“去年已离互不牵扯,互不打扰,祝各自安好”

李小冉发文承认离婚:“去年已离互不牵扯,互不打扰,祝各自安好”

韩小娱
2026-10-19 20:06:00
为什么有些功能微信鸿蒙版上还没有?微信回应

为什么有些功能微信鸿蒙版上还没有?微信回应

界面新闻
2026-10-19 15:21:58
随州市广水市委书记崔传金接受纪律审查和监察调查

随州市广水市委书记崔传金接受纪律审查和监察调查

环球网资讯
2026-10-19 19:46:34
港媒曝刘恺威与32岁黎纪君恋情,因匹克球互生情愫,已秘密恋爱两个月

港媒曝刘恺威与32岁黎纪君恋情,因匹克球互生情愫,已秘密恋爱两个月

韩小娱
2026-10-20 09:20:08
2026-10-20 10:39:00
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
177文章数 108关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

上周黄奇帆等两"虎"落马 4名省部级干部被处理

头条要闻

上周黄奇帆等两"虎"落马 4名省部级干部被处理

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

港媒曝刘恺威与32岁黎纪君恋情,秘密恋爱两个月

财经要闻

宁德时代的大时代结束了吗?

汽车要闻

方盒子家族再添新成员 捷途自由者7实车体验

态度原创

教育
时尚
本地
健康
军事航空

教育要闻

二年级状元题,孩子喜欢的图形题,家长会做不会讲

4种“棒针毛衣”穿搭,美翻了!

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

看着很健康的人,怎么会突然猝死?

军事要闻

泽连斯基:若乌“被要求”举行战时选举 他将竞选连任

无障碍浏览 进入关怀版