NeurIPS 2026｜MemSkill让智能体学习并进化记忆技能

随着递归自我改进（Recursive Self-Improvement，RSI）受到关注，智能体如何从交互经验中持续改进自身成为研究热点。智能体记忆机制影响着这些经验能否被有效保留和利用。

然而，现有系统常依赖新增、更新、删除和跳过等预设记忆提取操作，难以根据任务反馈持续改进记忆构建方式。

来自南洋理工大学等机构的研究团队在 NeurIPS 2026 上发表了 MemSkill。它将记忆操作表示为可学习、可复用、可进化的Memory Skills，通过任务反馈优化技能选择，并根据失败案例完善和扩展技能库，使记忆系统能够随交互经验的积累持续进化。

• 论文题目： MemSkill: Learning and Evolving Memory Skills for Self-Evolving Agents
• Author: Haozhen Zhang, Quanyu Long, Jianzhu Bao, Tao Feng, Weizhi Zhang, Haodong Yue, Wenya Wang
• Affiliation: Nanyang Technological University, University of Illinois Urbana-Champaign, University of Illinois Chicago, Tsinghua University
• arXiv: https://arxiv.org/abs/2602.02474
• GitHub: https://github.com/ViktorAxelsen/MemSkill

核心思路 将记忆方法变成可进化的技能

要改进记忆构建，首先要让 “如何记忆” 成为可修改的对象。MemSkill 因此将记忆操作封装为 Memory Skills，用自然语言说明用途、适用条件、执行方式与约束，供系统按需修改和复用。

如图 1 所示，MemSkill 将交互历史切为连续片段，根据当前文本片段和已有记忆，从技能库（Skill Bank）中选出相关记忆技能，再将三者一起交给 LLM。LLM 按记忆技能的指导提取或修订记忆信息，将更新写入记忆库（Memory Bank），供后续问答与决策检索使用。

图 1 逐轮操作与片段级技能引导构建的对比

方法框架 学习技能选择并持续改进技能库

MemSkill 的核心出发点是让记忆提取随反馈改进。如图 2 所示，框架从新增、更新、删除、跳过四项初始的记忆操作出发，由 Controller 负责选择技能，Executor 据此构建记忆，下游任务表现用于优化 Controller 的技能选择策略。训练中的失败案例会被收集起来，由 Designer 周期性分析，以修订和扩展技能库。

随后，Controller 在更新的技能库上进入下一轮训练，再通过任务反馈继续改进，形成自进化闭环。

图 2 技能学习与进化闭环

Controller 与 Executor 选择技能并构建记忆

长期交互中，不同片段的记忆需求会不断变化（如记住新偏好、保留事件细节，或更新过时信息）。MemSkill 因此训练了一个轻量的 Controller，按顺序为每个文本片段分别选择 Top-K 项记忆技能。选定技能后，Executor 将当前文本片段、已有记忆与选中的记忆技能一起输入 LLM，由 LLM 按技能指导生成记忆更新。多个技能在一次调用中完成记忆提取或更新，减少逐轮、逐操作处理的重复开销。

训练时，MemSkill 会将构建出的记忆用于下游问答或交互任务，并把任务表现作为奖励，通过强化学习更新 Controller。任务结果由此反馈到下一轮技能选择中，让 Controller 逐步学会更有效的技能组合。

Designer 根据下游任务的反馈持续完善技能库

在持续评估下游任务表现的过程中，失败案例会被收集到困难案例缓冲区（Hard Case Buffer）。Designer 定期从中筛选代表性难例进行分析，找出需要补充或调整的记忆规则，再修订已有技能或新增技能。

Controller 随后在更新的技能库上继续训练，探索新技能的用途。由此形成从任务反馈到技能改进、再到选择策略更新的循环。训练完成后，Controller 与技能库便可直接用于后续交互中的记忆提取。

实验结果 长期对话与具身交互中的全面评估

作者在长期对话问答和具身交互两种设置下，对 MemSkill 进行了全面评估。实验采用 LLaMA 与 Qwen 作为 Base Model，覆盖 LoCoMo、LongMemEval 和 ALFWorld，结果如下表所示。

表 1 主实验结果

在两个基础模型上，MemSkill 均取得表中最高的 L-J 分数和 ALFWorld 平均成功率，整体表现领先。其中，Qwen 结果来自 LLaMA 所学技能的直接迁移，LongMemEval 则复用了 LoCoMo 上学到的技能库，均无需重新训练。

迁移评估 从对话记忆到多跳问答

作者将 LoCoMo 上演化出的技能库直接迁移至 HotpotQA，检验其从多轮对话到文档型问答的泛化能力，无需针对 HotpotQA 重新训练。图 3 显示，默认选择 7 项技能时，MemSkill 在三种上下文长度下均优于 MemoryOS 与 A-MEM。与选择 3 项或 5 项相比，7 项技能的组合均取得更好表现，说明在一定范围内组合更多记忆技能有助于提升迁移效果。

图 3 LoCoMo 技能迁移至 HotpotQA 的结果

消融与效率 关键设计的作用与推理开销

为检验各组件的作用，作者进行了消融实验，分别用随机选择替代 Controller、停用 Designer，或仅修订旧技能而不新增技能。表 2 显示，这些变体均不及完整框架，说明技能选择与技能进化均有贡献，新增技能也带来了额外收益。

效率方面，表 3 显示，默认文本片段大小设置下，MemSkill 在提高回答质量的同时减少了 token 与 LLM 调用，相比 LightMem 调用量下降近七成，体现了片段级构建减少重复处理的作用。

表 2 与表 3 消融实验结果（左）与推理开销（右）

案例分析 面向任务需求的记忆技能

如图 4 所示，从 LoCoMo 数据集上演化出的技能强调时间关系与活动细节，并要求只记录原文明确提供的信息。从 ALFWorld 数据集上演化出的技能则聚焦行动约束、物体位置和状态，并随新信息更新，体现出两类任务不同的记忆需求。这也表明，MemSkill 能够根据不同领域的任务需求演化出有针对性的记忆技能。

图 4 对话与交互任务中的代表性技能

总结与展望 让记忆随用户反馈持续进化

MemSkill 的初衷是让记忆系统在长期交互中根据用户反馈持续进化，逐步适应个人需求。

要进一步实现这一目标，记忆技能的优化信号有望从现有实验采用的基准问答对，拓展到真实用户的评价与后续对话。例如，用户偏好详细信息，而初始技能只保留笼统摘要，后续回答就可能遗漏其关心的细节。用户的追问、纠正或满意表达，有望转化为正面、负面或中性的反馈标签，引导技能调整记忆内容与粒度。

要检验这种持续适应用户的能力，评测也需要从静态问答走向包含持续反馈与偏好变化的长期交互。更贴近真实使用的基准，将有助于验证记忆方法能否长期适配同一位用户，推动个性化智能体随用户需求不断改进。

作者与团队

Haozhen Zhang 现为南洋理工大学计算机科学博士生，导师 Wenya Wang 为 NTU 计算机与数据科学学院助理教授，领导 GLINT Lab。团队研究聚焦智能体记忆、自进化智能体、大模型可解释性以及高效智能体系统，致力于发展更可解释、高效且具备泛化能力的大模型系统。