网易首页 > 网易号 > 正文 申请入驻

2.5倍写入提速:给AI智能体装上语义记忆,不用向量库

0
分享至

给一个无服务器AI智能体加上持久、基于含义的记忆,可以用DynamoDB原生的向量搜索配合Amazon Bedrock的嵌入模型,不需要专门的向量数据库,也不需要同步管道。在这套演示里,嵌入向量就存在条目旁边,一次PutItem同时写入两者,按含义检索只需要一次SearchVectors调用。在us-east-1实测对比,这条原生路径的写入速度约为S3 Vectors的2.5倍,搜索(p50)约为1.4倍——这是针对智能体热路径记忆的测量结果。

智能体为什么会"失忆"


问题出在会话之间。你问一个刚创建的智能体,上一个智能体被告知过的某个信息,它从没见过那段对话,自然无从回答。它会去调用工具,找不到东西,最后请你再说一遍。这是一次真实运行的结果:用户询问生产集群的名称和区域,工具返回的是"能否提供保存生产集群详情的引用或上下文键"。任何在AWS Lambda上跑智能体的人都会撞上这个问题——容器在两次调用之间就没了,每一轮实际上都是一个全新的智能体。

要修好"遗忘",先得意识到这是三个不同的问题,各有各的生命周期。把它们混在一起,就会出现"记住了不该记的、忘了该记的"这种bug。

用助理来打比方:state是桌上的便利贴,session是今天这场会的笔记本,长期记忆则是助理真的记得你偏好早上部署,哪怕过了几周、哪怕你换了说法。Strands Harness(已经组装好的智能体构造器create_harness)正好暴露了两个开关:一个用来恢复当前这段对话,一个用来在所有运行之间携带数据。两者是正交的——session能扛过Lambda的销毁,记忆则能扛过一切,包括那些没有任何共同词汇的对话。

向量和条目住在一起

DynamoDB向量搜索的关键在于,向量就存在条目旁边。一张表既是你的业务存储,也是你的向量索引,不需要第二个服务。

第一步是建表时就声明向量索引,而不是事后添加。往已有条目的表上加索引会触发回填,这个回填是要按真实时间付费的。声明索引时有两个字段必须对齐,否则搜索会静默地返回无用结果:Dimensions必须等于嵌入模型的输出维度(Titan V2为1024),DistanceFunction必须和你生成向量的方式一致(单位长度嵌入用COSINE)。另外,按需计费模式对向量索引是强制的。

建表脚本跑完后,DescribeTable报告ACTIVE是必要但不充分的——搜索端点可能还在滞后。脚本的做法是在重试循环里发一次真实的SearchVectors调用,所以当它打印出"searchable on attempt N"时,索引是真的能服务查询了。

第二步是把文本转成向量。DynamoDB负责存储和搜索向量,但不负责生成向量,这部分由你的代码调用Bedrock完成。嵌入辅助函数调用Titan V2模型,传入文本、维度和归一化开关,返回一个浮点数列表。归一化会产出单位长度的向量,这正是前面选择COSINE距离函数的前提。

把这两步接起来,智能体的记忆就不再依赖一张单独的向量库表,也不需要额外的同步管道。写入时向量随条目一起落库,检索时按含义一次调用取回。对于跑在Lambda上、每轮都可能是新实例的智能体来说,这条路径把"记忆"从一件需要额外基础设施的事,变成了表结构里的一列。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
小偷正在“饿死”!全国盗抢骗案件下降38.9%,原因竟不是摄像头

小偷正在“饿死”!全国盗抢骗案件下降38.9%,原因竟不是摄像头

猫叔东山再起
2026-09-24 10:55:19
中国脑梗发病率世界第一!医生:罪魁祸首已揪出,3种蔬菜要少吃

中国脑梗发病率世界第一!医生:罪魁祸首已揪出,3种蔬菜要少吃

纸上的心语
2026-08-11 09:16:55
覃海洋最后一天拿下亚运个人金牌,存在感和上届相比大大减弱

覃海洋最后一天拿下亚运个人金牌,存在感和上届相比大大减弱

体娱一家亲
2026-09-25 16:28:51
新华社怒赞!没想到一场亚运会,竟炸出来中国三位05后“潜力股”

新华社怒赞!没想到一场亚运会,竟炸出来中国三位05后“潜力股”

离离言几许
2026-09-25 21:53:59
特朗普现在才猛然惊醒:中国是一个“无法分割”的对手!

特朗普现在才猛然惊醒:中国是一个“无法分割”的对手!

北海史记
2026-09-25 11:28:17
刘欢去世背后:原来这才是真相!!

刘欢去世背后:原来这才是真相!!

水木然
2026-09-26 10:52:48
中央5台乒乓球直播时间表:9月26日CCTV5节目表、CCTV5+节目单!

中央5台乒乓球直播时间表:9月26日CCTV5节目表、CCTV5+节目单!

生活新鲜市
2026-09-26 06:02:22
这是传承传统,还是在摧残人性?

这是传承传统,还是在摧残人性?

胖胖说他不胖
2026-09-25 17:36:46
当着中方代表面!巴总统联大摊牌:拒台海中立,叫嚣推台当局入联

当着中方代表面!巴总统联大摊牌:拒台海中立,叫嚣推台当局入联

军情观察家
2026-09-25 17:17:50
游本昌离世1天后,才发现45岁无儿无女的女儿,早被他安排好后路

游本昌离世1天后,才发现45岁无儿无女的女儿,早被他安排好后路

陶寻爱说
2026-09-25 20:50:49
著名音乐家刘欢去世,享年63岁,,从《好汉歌》到《我和你》一代人的音乐记忆

著名音乐家刘欢去世,享年63岁,,从《好汉歌》到《我和你》一代人的音乐记忆

云隐南山
2026-09-26 10:33:03
赵本山女儿公布病情!

赵本山女儿公布病情!

背包旅行
2026-09-23 11:46:16
白宫国宴中国风元素拉满 这几个细节值得细品!

白宫国宴中国风元素拉满 这几个细节值得细品!

看看新闻Knews
2026-09-25 23:49:47
前男篮国手:世界哪有什么现代篮球和大清篮球之分,纯属就是扯蛋

前男篮国手:世界哪有什么现代篮球和大清篮球之分,纯属就是扯蛋

狼叔评论
2026-09-26 00:40:11
石榴开始上市!研究发现:吃得越多,高血脂患者血管或越干净?

石榴开始上市!研究发现:吃得越多,高血脂患者血管或越干净?

叙说医疗健康
2026-09-26 05:00:10
“看似丰盛,其实毫无蛋白质!”中学女儿营养餐,给人看无语了

“看似丰盛,其实毫无蛋白质!”中学女儿营养餐,给人看无语了

熙熙说教
2026-09-25 14:31:02
大外交·现场|访美第二日:从“五军仪仗队”到国宴的历史细节

大外交·现场|访美第二日:从“五军仪仗队”到国宴的历史细节

澎湃新闻
2026-09-25 10:38:28
耗资 3 亿,首日票房严重倒挂,《敦煌英雄》又给行业狠狠上了一课

耗资 3 亿,首日票房严重倒挂,《敦煌英雄》又给行业狠狠上了一课

电和影
2026-09-25 22:22:13
跟队记者:除非有戏剧性的逆转,否则曼城都可能万劫不复

跟队记者:除非有戏剧性的逆转,否则曼城都可能万劫不复

懂球帝
2026-09-26 02:50:05
黄仁勋又火了!携妻子参加白宫晚宴被赞:男人果然爱妻则风声水起

黄仁勋又火了!携妻子参加白宫晚宴被赞:男人果然爱妻则风声水起

小鱼爱鱼乐
2026-09-25 20:39:57
2026-09-26 11:27:00
字节漫游指南
字节漫游指南
有态度网友ytd
217文章数 120关注度
往期回顾 全部

科技要闻

拖了近10年,特斯拉Semi终于量产!

头条要闻

对外经贸大学发布讣告 63岁歌手刘欢病逝

头条要闻

对外经贸大学发布讣告 63岁歌手刘欢病逝

体育要闻

这场青春风暴,中国足球等了太久

娱乐要闻

痛心!63岁歌手刘欢因病去世

财经要闻

盖茨:AI已强大到足以造成"10亿人死亡"

汽车要闻

可城可野可旅行 捷途旅行者 7 双车预售14.99万起

态度原创

房产
时尚
教育
本地
军事航空

房产要闻

全年霸榜TOP1!南海・叁號院周年官宣:新作即将登场

早秋火了一种穿搭,叫“外套+连衣裙”,大方优雅又不挑年纪

教育要闻

高考日语入门课!人教版日语新教材七年级日语网课来啦!

本地新闻

中秋逛白塔寺,体验国医妙荟雅集

军事要闻

联大伊朗代表席摆着苏莱曼尼遗像

无障碍浏览 进入关怀版