网易首页 > 网易号 > 正文 申请入驻

89%对0%的评测被打脸后,他重做了一遍

0
分享至

一个入职三周的市场运营,被老板问了一句:七月底试用用户的MQL为什么掉了?她翻了四十个聊天串、一段58分钟的会议录音、改过两次的手册页、共享盘里还写着25分的老PDF、CRM里的线索评分字段、一个仪表盘、一个合并请求。七个工具翻完,她还是不确定是谁、在什么时候、为什么做了那个决定。

这是HandbookBrain想解决的问题,作者为Graph Hacks黑客松的“公司大脑”赛道做了它。核心判断很直接:搜索找得到文档,但Maya要的是一条路径——会议、决定、谁拍的板、落地这个决定的改动、被改掉的章节版本,以及所有依赖它的东西。这是一张图的问题,所以他就按图来做。

三个设计支点

第一,版本化的是章节,不是文档。一个页面被拆成若干章节,每次改动生成新的章节节点,取代上一版,带生效与失效时间。旧内容不被覆盖,所以能读任意日期的那张图,被删掉的规则也还找得到。

第二,答案本身是节点。一个答案会引用它用到的确切章节版本,就靠这条边,后来的改动才能找到自己被谁引用、又弄坏了哪些答案。

第三,决定是一等公民。每个决定从会议、聊天或工单里抽出来,带发言人和原话引用,连到它涉及的章节,再通过读代码差异,对上真正实现它的那次提交。

检索是混合式的,全部放在FalkorDB里:章节向量的向量索引,加上标题和正文的全文索引,用倒数排名融合,再过滤到当前版本。向量、全文和图遍历在一个库里,就不用再维护第二个存储去同步。智能体本身是一个工具调用循环,跑在10个参数化的只读查询工具上,每条结论都必须带一个工具真正返回过的引用,这一点在代码里校验。

那条阈值的故事

演示用的是GitLab公开的上市手册,按日期回放2026年4月到10月的74个真实合并请求。围绕这些请求的会议和聊天是合成的,由大模型生成、锚定真实改动,每个合成文件都做了标注。

5月21日,真实请求!19600给页面加上试用阈值评分,系统把它连到13天前的一场会议。6月1日,新来的分析师问:试用用户多少分算MQL?答案是25分,引用的是那个章节版本。7月17日,周会决定上调。7月23日,真实请求!20534把25改成31。6月1日那个答案被判定过期,CODEOWNERS里的负责人收到通知,答案刷新为31,会议、决策人和合并请求一并附上。Maya问一个问题,拿到整条路径。

那个89%对0%

作者最初的头条数字是“89%对0%”,在“为什么”类问题上对比普通检索基线。看着很漂亮,但不公平。逐条事实核对后发现,普通检索在找会议日期和决策人上并不差,它拿0%只是因为那个合并请求根本不在它的数据里。

于是他重做了评测:能写代码判分的就用代码,只有开放答案才用模型裁判;既有该答的问题,也有该拒答的问题;每题跑3次,关掉大模型缓存。还加了一个更强的基线,把整份合并日志当文本喂进去。29题乘3次的结果说明:找会议是检索问题,检索能解决;图真正加上的,是决定到落地改动、再到版本历史的那条链,包括已经被删掉的规则。即便把整份合并日志放进上下文,模型也很少能自己把会议对上正确的合并请求。而在普通查询上,图什么也没加,智能体还更慢更贵。

作者也把保留意见写了出来:题目是他自己出的,只来自一个数据集,而且他是看完这些题上的失败之后才去修的智能体,换新题数字应该会更低。

评测确实挖出了真bug。一个叫“试用阈值评分”的章节被埋在泛泛的“MQL与线索评分”下面,智能体答了100而不是31,修法是搜索里加标题匹配候选。宽表格被按列读错,修法是把行线性化。被删掉的规则看不见,修法是搜索也返回说过更多的旧版本,连同删掉它的那个请求。只在聊天里达成的规则曾被当成制度、还配了手册引用,修法是标注“只在聊天里说过”,智能体必须照实讲。

四条经验:让答案成为节点;在章节级别做版本;按事实逐条衡量,对着公平的基线;用独立来源审计大模型建出来的边——抽链接的模型不该同时当裁判。

代码在github.com/danhe6/handbookbrain,用FalkorDB、Python、FastAPI和LiteLLM搭起来,大部分代码是在作者指挥和审阅下由AI编程助手Claude写成的。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
iOS27.2紧急发布,巨省电,信号难以置信,体验完美

iOS27.2紧急发布,巨省电,信号难以置信,体验完美

库克啥都聊
2026-10-19 10:32:14
乒坛要变天?日乒名单大变动,张本智和成"弃子",步步直攻国乒软肋

乒坛要变天?日乒名单大变动,张本智和成"弃子",步步直攻国乒软肋

瓜农娟姐
2026-10-19 18:48:24
企业退休人员速看:国务院对养老金及相关待遇到底怎么规定?

企业退休人员速看:国务院对养老金及相关待遇到底怎么规定?

牛锅巴小钒
2026-10-19 18:16:09
乌克兰首都基辅响起强烈爆炸声

乌克兰首都基辅响起强烈爆炸声

上观新闻
2026-10-19 06:21:29
国家出手抓的4位首富,劣迹触目惊心,害惨百姓,没一个值得饶恕

国家出手抓的4位首富,劣迹触目惊心,害惨百姓,没一个值得饶恕

不畏山海a
2026-10-07 16:09:37
人民日报“点名”后,被批“不男不女”的周深,终于传来好消息

人民日报“点名”后,被批“不男不女”的周深,终于传来好消息

雅儿姐游世界
2026-10-11 00:30:42
石家庄就老年人保健品虚假宣传、会议营销等“坑老骗老”问题成立联合调查组

石家庄就老年人保健品虚假宣传、会议营销等“坑老骗老”问题成立联合调查组

界面新闻
2026-10-19 15:37:06
华为新机突然公布:麒麟9系芯片+主动散热+卫星通信!

华为新机突然公布:麒麟9系芯片+主动散热+卫星通信!

科技堡垒
2026-10-18 10:04:13
2026年10月20日十二星座运势

2026年10月20日十二星座运势

星座不求人
2026-10-19 19:13:52
70岁中国大唐原湖南分公司总经理魏远被查,两家上市公司紧急称未受影响

70岁中国大唐原湖南分公司总经理魏远被查,两家上市公司紧急称未受影响

澎湃新闻
2026-10-19 21:40:27
记者:青岛海牛上下目标都是想尽快打回来,今年外援吃了大亏

记者:青岛海牛上下目标都是想尽快打回来,今年外援吃了大亏

懂球帝
2026-10-19 14:07:58
苹果首款折叠屏 iPhone Duo 预购火爆,发货时间已推迟至 2027 年

苹果首款折叠屏 iPhone Duo 预购火爆,发货时间已推迟至 2027 年

摄影笔记
2026-10-19 09:21:54
为了防止七天白嫖党,女装大规模启用防拆带,结果一群小仙女破防了

为了防止七天白嫖党,女装大规模启用防拆带,结果一群小仙女破防了

张晓磊
2026-10-06 12:12:52
江门市医疗保障局党组书记简锦聪主动投案

江门市医疗保障局党组书记简锦聪主动投案

南方都市报
2026-10-19 18:18:32
我国每年近千万人做肠镜!医生直言:做一次肠镜,或管十年无碍?

我国每年近千万人做肠镜!医生直言:做一次肠镜,或管十年无碍?

芹姐说生活
2026-10-01 15:36:10
徐浦大桥车祸白车司机事发后蹲地上猛抽烟,他其实也非常后悔

徐浦大桥车祸白车司机事发后蹲地上猛抽烟,他其实也非常后悔

映射生活的身影
2026-10-18 11:12:44
主持人笑岔气!马斯克当年说要把火箭推进器放车里,不用燃料,只用超高压空气!网友:马斯克以前也嘲笑过比亚迪

主持人笑岔气!马斯克当年说要把火箭推进器放车里,不用燃料,只用超高压空气!网友:马斯克以前也嘲笑过比亚迪

大白聊IT
2026-10-17 23:22:29
全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

全世界都被普京骗了?打乌克兰只是幌子,真正目标其实已悄悄布局四年

扶苏聊历史
2026-08-27 16:15:02
危险信号来了!战争爆发前兆四起,美四大警示,张召忠预言将成真

危险信号来了!战争爆发前兆四起,美四大警示,张召忠预言将成真

利刃号
2026-10-18 21:12:39
大快人心!缅北电诈骨干廖景芳一审获死刑,当庭崩溃晕厥

大快人心!缅北电诈骨干廖景芳一审获死刑,当庭崩溃晕厥

阿莱美食汇
2026-10-19 04:57:30
2026-10-19 22:36:49
固件更新中
固件更新中
有态度网友ytd
232文章数 81关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

女子随口一句"姐过得不太好" 8年前帮过的小伙飞来送钱

头条要闻

女子随口一句"姐过得不太好" 8年前帮过的小伙飞来送钱

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

本地
手机
亲子
数码
公开课

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

手机要闻

荣耀WIN2系列众测招募开启,30台名额

亲子要闻

工程车小故事:小车车受伤了

数码要闻

VGN联合腾讯天美工作室推出V98Pro V4 TiMi限定款机械键盘,首发价419元

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版