网易首页 > 网易号 > 正文 申请入驻

2.5倍写入提速:给AI智能体装上语义记忆,不用向量库

0
分享至

给一个无服务器AI智能体加上持久、基于含义的记忆,可以用DynamoDB原生的向量搜索配合Amazon Bedrock的嵌入模型,不需要专门的向量数据库,也不需要同步管道。在这套演示里,嵌入向量就存在条目旁边,一次PutItem同时写入两者,按含义检索只需要一次SearchVectors调用。在us-east-1实测对比,这条原生路径的写入速度约为S3 Vectors的2.5倍,搜索(p50)约为1.4倍——这是针对智能体热路径记忆的测量结果。

智能体为什么会"失忆"


问题出在会话之间。你问一个刚创建的智能体,上一个智能体被告知过的某个信息,它从没见过那段对话,自然无从回答。它会去调用工具,找不到东西,最后请你再说一遍。这是一次真实运行的结果:用户询问生产集群的名称和区域,工具返回的是"能否提供保存生产集群详情的引用或上下文键"。任何在AWS Lambda上跑智能体的人都会撞上这个问题——容器在两次调用之间就没了,每一轮实际上都是一个全新的智能体。

要修好"遗忘",先得意识到这是三个不同的问题,各有各的生命周期。把它们混在一起,就会出现"记住了不该记的、忘了该记的"这种bug。

用助理来打比方:state是桌上的便利贴,session是今天这场会的笔记本,长期记忆则是助理真的记得你偏好早上部署,哪怕过了几周、哪怕你换了说法。Strands Harness(已经组装好的智能体构造器create_harness)正好暴露了两个开关:一个用来恢复当前这段对话,一个用来在所有运行之间携带数据。两者是正交的——session能扛过Lambda的销毁,记忆则能扛过一切,包括那些没有任何共同词汇的对话。

向量和条目住在一起

DynamoDB向量搜索的关键在于,向量就存在条目旁边。一张表既是你的业务存储,也是你的向量索引,不需要第二个服务。

第一步是建表时就声明向量索引,而不是事后添加。往已有条目的表上加索引会触发回填,这个回填是要按真实时间付费的。声明索引时有两个字段必须对齐,否则搜索会静默地返回无用结果:Dimensions必须等于嵌入模型的输出维度(Titan V2为1024),DistanceFunction必须和你生成向量的方式一致(单位长度嵌入用COSINE)。另外,按需计费模式对向量索引是强制的。

建表脚本跑完后,DescribeTable报告ACTIVE是必要但不充分的——搜索端点可能还在滞后。脚本的做法是在重试循环里发一次真实的SearchVectors调用,所以当它打印出"searchable on attempt N"时,索引是真的能服务查询了。

第二步是把文本转成向量。DynamoDB负责存储和搜索向量,但不负责生成向量,这部分由你的代码调用Bedrock完成。嵌入辅助函数调用Titan V2模型,传入文本、维度和归一化开关,返回一个浮点数列表。归一化会产出单位长度的向量,这正是前面选择COSINE距离函数的前提。

把这两步接起来,智能体的记忆就不再依赖一张单独的向量库表,也不需要额外的同步管道。写入时向量随条目一起落库,检索时按含义一次调用取回。对于跑在Lambda上、每轮都可能是新实例的智能体来说,这条路径把"记忆"从一件需要额外基础设施的事,变成了表结构里的一列。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
273记三分的新秀,可能赶不上新赛季开局了

273记三分的新秀,可能赶不上新赛季开局了

慢享生活集
2026-09-26 08:17:22
妮可·基德曼带火"运动芭蕾鞋",159美元同款被抢空

妮可·基德曼带火"运动芭蕾鞋",159美元同款被抢空

追星雷达站
2026-09-25 07:27:06
皇马1.4亿欧新星在科特迪奥国家队一战亮眼,单兵爆破能力出众:32 次带球推进、10 次对抗取胜!

皇马1.4亿欧新星在科特迪奥国家队一战亮眼,单兵爆破能力出众:32 次带球推进、10 次对抗取胜!

福酱的小时光
2026-09-26 06:23:33
离谱用人!穆里尼奥彻底看错眼!皇马 1.4 亿巨星断崖下滑

离谱用人!穆里尼奥彻底看错眼!皇马 1.4 亿巨星断崖下滑

澜归序
2026-09-26 08:20:24
石榴开始上市!研究发现:吃得越多,高血脂患者血管或越干净?

石榴开始上市!研究发现:吃得越多,高血脂患者血管或越干净?

叙说医疗健康
2026-09-26 05:00:10
痛别!吴林逝世

痛别!吴林逝世

环球网资讯
2026-09-25 16:54:06
四名议员施压特朗普,想恢复对台军售,鲁比奥表态,释放两大信号

四名议员施压特朗普,想恢复对台军售,鲁比奥表态,释放两大信号

DS北风
2026-09-24 14:30:03
发生了什么,你不再保持善良?网友:有些东西注定穷一辈子,智商决定上限

发生了什么,你不再保持善良?网友:有些东西注定穷一辈子,智商决定上限

带你感受人间冷暖
2026-09-25 12:01:56
刘翔买断之后出游散心,妻子罕见出镜,夫妻互动好有爱

刘翔买断之后出游散心,妻子罕见出镜,夫妻互动好有爱

米修体育
2026-09-25 21:56:21
抖音内部多人被抓,事情闹大了!

抖音内部多人被抓,事情闹大了!

互联网品牌官
2026-09-24 15:02:39
从“卖靓号”到“织天网”:当星链叩门,三大运营商拿什么抵挡进攻

从“卖靓号”到“织天网”:当星链叩门,三大运营商拿什么抵挡进攻

细雨中的呼喊
2026-09-24 18:24:56
Shams:出于精简阵容考虑,灰熊已经裁掉了拉塞尔

Shams:出于精简阵容考虑,灰熊已经裁掉了拉塞尔

懂球帝
2026-09-26 02:18:32
“深圳已经进化成这样了”?假期第一天上百人扎堆“玩抽象”,彻底上头!网友急了:怎么不叫我

“深圳已经进化成这样了”?假期第一天上百人扎堆“玩抽象”,彻底上头!网友急了:怎么不叫我

南方都市报
2026-09-25 18:52:46
川普15岁外孙女突然刷屏!18个月学中文、4岁背唐诗,美国网友:等等,她真会普通话!

川普15岁外孙女突然刷屏!18个月学中文、4岁背唐诗,美国网友:等等,她真会普通话!

北美省钱快报
2026-09-26 03:49:31
“小孩姐”陈妤颉,收到一本《五年高考三年模拟》,不是汪顺送的!名古屋亚运会女子100米决赛后名场面

“小孩姐”陈妤颉,收到一本《五年高考三年模拟》,不是汪顺送的!名古屋亚运会女子100米决赛后名场面

开成运动会
2026-09-26 07:08:59
第一次!莫斯科,遭受到重型巡航导弹攻击!

第一次!莫斯科,遭受到重型巡航导弹攻击!

叶老四
2026-09-22 21:50:16
4-0,3-0!亚运男足四强诞生两队,韩国零封,沙特和越南惨败回家

4-0,3-0!亚运男足四强诞生两队,韩国零封,沙特和越南惨败回家

显微镜下的人性
2026-09-26 01:46:24
一针没打的280万人,2026年身体真相曝光

一针没打的280万人,2026年身体真相曝光

华庭讲美食
2026-08-26 01:21:08
等了好几年,苹果终于让实体卡进iPhone了

等了好几年,苹果终于让实体卡进iPhone了

薛定谔的BUG
2026-09-25 21:20:35
性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

性专家说:当一个异性开口跟你要钱,要礼物,不管对方是不是想试探你的真心,你都应该明白,你已被对方列入供养者行列

心理观察局
2026-08-05 06:46:04
2026-09-26 08:40:49
字节漫游指南
字节漫游指南
有态度网友ytd
213文章数 120关注度
往期回顾 全部

科技要闻

华为赛力斯,一次声势浩大的权、利再分配

头条要闻

被问"乌兹别克斯坦引进歼-10CE战机"事宜 国防部回应

头条要闻

被问"乌兹别克斯坦引进歼-10CE战机"事宜 国防部回应

体育要闻

这场青春风暴,中国足球等了太久

娱乐要闻

好甜!井柏然刘雯结伴看李荣浩演唱会

财经要闻

盖茨:AI已强大到足以造成"10亿人死亡"

汽车要闻

小鹏G9L VS 保时捷卡宴,同场实测讲解

态度原创

本地
家居
艺术
时尚
公开课

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

看完瞬间清醒!尼采一句话,治好了我的精神内耗!

早秋火了一种穿搭,叫“外套+连衣裙”,大方优雅又不挑年纪

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版