北大助理教授创业押注实时RSI：让AI摆脱“出厂即定型”

一个真正属于你的 AI，应该是什么样的？

它或许能够记住你的兴趣和习惯，了解你正在做的工作，甚至知道你过去几个月读过什么、思考过什么。随着 AI 智能体（AI Agent）逐渐走向实际应用，能够长期陪伴用户、提供个性化服务的个人智能体（Personal Agent），正成为行业关注的方向之一。

但要实现这样的愿景，AI 首先需要解决一个基础问题：如何在长期使用中积累知识和经验？

目前，行业已经探索了不少办法。从不断扩大的上下文窗口，到检索增强、对话摘要和外部记忆系统，这些技术让 AI 能够保存更多信息，在需要时重新调用。不过，这些信息大多仍然存储在模型参数之外。AI 可以查阅过去的记录，却未必真正从中学会了新的知识和能力。

如果希望 AI 越用越聪明，或许还需要更进一步：让模型在使用过程中持续学习，把新的经验逐渐转化为自身能力。

这也与当前 AI 领域受到广泛关注的 RSI（Recursive Self-Improvement，递归自我改进）研究形成了联系。简单来说，RSI 希望让 AI 参与改进自身，实现能力的持续提升。目前，行业更多关注如何利用 AI 辅助模型研发、优化训练流程，加快下一代模型的迭代。而另一条值得探索的路线，是让模型在发布之后继续成长，在与用户和环境的交互中不断积累新的知识和能力。

近日，在中关村科学城组织的 ACC2026 活动上，DeepTech 就大模型的持续学习、实时 RSI 以及个人智能体的未来，与北京大学人工智能研究院助理教授张牧涵展开对话。

张牧涵曾在 Facebook AI 参与大规模推荐系统的研发。今年，他创办了无涯智远，带领一支以年轻研究者为主的团队，探索新的模型学习范式。他们希望让模型在运行过程中吸收新信息，将值得长期保留的知识和经验写入自身参数，以更低的成本实现持续改进。

不过，要实现这一目标，仍然面临两大技术难题。一是频繁更新模型参数带来的计算成本，二是模型学习新知识时容易遗忘旧知识的“灾难性遗忘”问题。

访谈中，张牧涵介绍，团队近期在持续学习方面取得了阶段性进展。在当前内部实验设置下，模型学习新知识后，原有知识和通用能力得到了较好保留。接下来，团队将继续验证这些结果，并探索如何降低参数更新的成本。

在张牧涵的设想中，未来的 AI 可以在用户自主选择和授权的范围内，逐渐吸收阅读、交谈和工作中的有用信息，在长期使用中不断成长。随着这些信息被持续吸收，AI 对用户的理解也将不断加深，逐渐成为一个真正能够伴随个人成长的智能体。

以下是 DeepTech 与张牧涵的对话。

上下文终究有尽头

DeepTech：你本科就读于上海交通大学，之后赴美攻读博士，也曾在 Facebook AI 工作，最后选择回国。这些经历如何塑造了你，以及你对行业的理解？

张牧涵：2011 年，我进入上海交通大学电院的 IEEE 试点班。2015 年毕业后，赴美国圣路易斯华盛顿大学攻读计算机科学博士，导师是 IEEE 会士陈一昕教授。2019 年，我用四年完成了博士学业。

博士期间，我主要从事人工智能和深度学习研究，比较早地参与了图神经网络的研究，把相关技术从理论、算法带到了实际系统的应用中。

2019 年至 2021 年，我在 Facebook 总部的 AI Personalization 团队工作，参与支撑全球十亿乃至数十亿用户的推荐系统研发。那段经历让我接触到很多工程挑战，也完成了从理论研究者到工程实践者，再到生产级产品开发者的转变。

但在 2020 年、2021 年前后，AGI 对我们来说仍是一个遥远的目标。这段经历也让我逐渐明确，自己更想长期投入的是通用人工智能的基础问题。

我认为，要实现真正的突破，仍需要对底层原理有更深的理解，探索新的技术范式。因此，我决定回国进入高校，甚至做好了在实验室做十年理论研究的准备。

最后选择北京大学，一方面是因为它的交叉学科底蕴和自由学风，另一方面也是因为这里有很多志同道合、研究前沿问题的老师。

DeepTech：你早期研究图机器学习、图神经网络等偏理论的方向，在 Facebook 又接触到工业级项目和产品。回到北大后，你的研究方向与过去相比，有哪些延续与变化？

张牧涵：回到北大后，我继续沿着图神经网络这个方向，研究它的表达能力、泛化能力和通用逼近等理论问题。

到了 2022 年底，ChatGPT 出现，我受到了比较大的震撼。大约一两周后，我在全院做了一次报告，介绍自己对它的理解，以及试用中看到的能力和失败案例。

尽管当时我还不是规模定律的坚定信徒，也不知道这条路线最后会成功还是失败，但我很确定，这个东西不能忽视，一定要研究。

于是，我开始投入大量精力研究语言模型，包括它如何训练、怎样设计更高效的架构、推理和泛化的机制是什么，以及模型的可解释性等。

这些课题里，最吸引我的是上下文学习，也就是 ICL（In-Context Learning）。给模型一些例子和指令，它就能遵循指令、改变行为，表现出某种类似人类的少样本学习和泛化能力。

但上下文窗口是有限的。那时通常只有 4K、8K，单轮对话有时够用，可如果要持续交互，上下文用尽了怎么办？

一种办法是继续扩充上下文窗口，但也要考虑成本。对于标准的全注意力机制，处理整段输入的注意力计算量随序列长度呈平方增长，KV Cache（键值缓存）通常也会随长度线性增加，占用更多显存。窗口越大，成本越高，很难无限扩充。更高效的架构可以缓解这些问题，但长期积累的信息如何保存和复用，仍值得研究。

可人是持续学习、终身学习的，从有记忆开始就不断吸收新知识。对于参数保持不变的模型，新信息通常需要通过上下文或外部系统提供。我想进一步研究，能否把其中值得保留的信息持续写进模型参数。

DeepTech：你们沿着上下文学习、持续学习做了哪些研究？这些工作又怎样形成了无涯智远现在的技术方向？

张牧涵：为了让大模型具备持续学习能力，我们在模型架构、高效训练和微调方面做了很多工作，包括稀疏注意力、更高效的注意力机制，以及与 DeepSeek 的 MLA（Multi-head Latent Attention，多头潜在注意力）相关的研究。

这些工作可以从一个方面缓解上下文容量问题。更高效、更省显存的注意力机制，能够承载更长的上下文，扩大上下文学习的窗口。工业界目前也仍在沿着这一方向探索。

例如，DeepSeek-V4.1-Flash 通过高效架构进一步压缩 KV Cache 并降低长上下文下注意力的复杂度，其技术报告也引用了我们近期的工作 HISA（Hierarchical Indexed Sparse Attention，分层索引稀疏注意力）。

不过，我认为继续扩大上下文仍是阶段性的办法。要从根本上解决持续学习问题，还需要探索把信息写入参数，让一部分经验能够在上下文之外保留下来。这与扩大上下文、改进外部记忆可以相互补充。

上下文很像人的短期记忆或工作记忆，其中的信息通常是临时的。换一个上下文窗口，往往需要重新提供相关信息。我们希望模型也能把重要、可长期复用的经验沉淀下来。很难想象，一个人如果只有当天的短期记忆，隔天就清空，没法形成任何长期记忆，那他如何能持续学习和成长。

DeepTech：持续学习也是很多团队都在探索的方向。从在高校研究持续学习，到决定围绕它创业，能否结合当时的模型规模和实验任务，讲讲它验证了什么关键判断？哪些指标的变化，让你觉得这条路线值得继续扩大投入？

张牧涵：对我来说，最关键的判断是：“如何把新信息写进参数”，本身能不能被训练成一种可以泛化的能力，而承载这种“参数学习能力”的是另一个具备海量参数的网络——超网络。超网络训练好以后，面对一篇从没见过的文章，可以直接生成有效的参数更新，让模型掌握其中的内容，而不用再针对这篇文章反复做梯度下降。

早期做时，我们使用八十亿参数的基座模型，从比较短的文本开始，测试重建、续写和问答。问答时把原文拿掉，观察模型能不能通过生成的参数更新回答问题。真正让我兴奋的是，没见过的材料也能写进去。我们还观察到，超网络用英文语料训练后，对中文材料也表现出内化能力。当然，基座本身具备多语言能力，但这个结果仍然说明，学到的写入方式有跨语言迁移的能力。

当时我主要看三个指标：新知识能不能被正确使用，写入的时间和计算成本有多高，以及对新内容的泛化怎么样。论文里其实展示了非常强的 scaling law 曲线，超网络训练得越多、参数量越大，内化效果就越好。这些结果让我觉得，值得扩大投入，继续研究这个学习机制的上限。

创业之后，我们进一步把判断推进到了两个方面：内化后的效果，能不能匹配所有内容装进上下文窗口的上下文学习；连续学习之后，前面的知识和原有能力能不能保留。目前在内部全部测试集上都已经匹配上下文学习的效果了，且经过连续几百 K 的写入通用能力几乎没有任何下降。

DeepTech：从 2022 年到现在，AI 技术逐渐从模型本身延伸到 Agent，今年 Coding Agent 的发展尤其迅速。你怎么看这条路线的演进？它对底层模型提出了什么新要求？

张牧涵：Harness（智能体运行框架）的发展确实大幅推动了 Agent。通过上下文管理、检索增强和工具调用，它能更充分地发挥模型已有的能力，也能显著改善系统的任务表现。我们关注的是，能不能把其中值得反复使用的经验，进一步转化为模型参数的更新。

上下文、外部工具和参数内的学习可以配合。哪些信息适合写入参数，哪些应该保留在外部、需要时再检索，要看具体任务，也要看效果、成本和稳定性。但不论如何，如果只动 Harness 而不动参数，那单次推理能利用的新信息，仍受底层模型上下文容量的限制。

模型出厂后还要成长

DeepTech：无涯智远把 Real-time RSI，也就是实时递归自我改进，作为重要的技术路线。你们为什么特别强调实时？它与目前常见的模型迭代方式有什么不同？

张牧涵：一种自我改进的路径，是用 AI 帮助写代码、写算子、优化基础设施和模型架构、合成数据，加快后续模型的研发与迭代。这些工作很有价值。

我们更关注另一个时间尺度：在两次模型版本发布之间，模型能不能更及时地吸收新的经验？个人和企业的任务、知识与偏好都在不断变化，这给持续学习提出了新的要求。

现在一个模型发布后，参数就锁定了。联网搜索、RAG（检索增强生成）或 Harness 可以帮助它获取和使用新信息。我们希望进一步探索，让一部分经验进入参数，成为后续任务中可以复用的内部变化。

虽然基模版本迭代的速度也在不断加快，但这种阶跃式更新不太符合我的审美，也不太符合人类的学习方式。人每天都在积累知识、形成新的认知，而不是每隔几个月才升级一次。我每天读新闻、论文，和别人交谈，这些经历都会逐渐影响自己的认知、部分沉淀为长期记忆。我也希望模型能在长期使用中继续学习。

我说的 Real-time，强调的是让经验的吸收更加及时，同时降低频繁更新的成本。模型发布后，仍能继续学习、修正参数，把每天、每小时获得的新信息沉淀为能力和长期记忆，而不必总依赖高成本的离线重训。这也是我们强调实时性的两个原因：进化更及时，成本也有机会降下来。

还有一个关键点是个性化。我在 Meta 做的也是个性化方向，因此希望模型本身能因人而异，而不只是让使用同一套参数的人输入不同的上下文。

我期待未来每个人、每家企业，甚至每个在本地工作的机器人或 Agent，都能在各自的工作流和环境中继续学习，让出厂后的参数逐渐变得更适合自己。

DeepTech：你刚才提到持续学习和参数更新。那么，模型如何从新信息里学到能力，而不只是简单地叠加知识？

张牧涵：首先，新知识和新能力没有绝对清晰的边界。比如熟读唐诗三百首，不会作诗也会吟。人在记忆、压缩大量内容的过程中，也会抽象出规律。类似地，当信息进入模型参数，它有可能从中提取超越单纯记忆的、可迁移的规律，形成新能力。

不过，要让这种能力持续增长，还得处理好新旧知识的关系。模型吸收新信息时，也需要尽量保留已有知识和通用能力，并处理不同信息之间的冲突。就像人每天学习新东西，也不会说学了新的后已掌握的旧能力就大幅下降。模型同样需要做到这一点。

后训练中的强化学习也是能力从经验中产生的一个例子。模型不必逐条记住成功或失败的轨迹，而是利用轨迹及其奖励信号调整参数，使自己下次更倾向于生成成功率高的行为、抑制失败的行为。

这说明能力可以从大量知识、轨迹和记忆片段中抽象出来，关键在于如何把它们有效地内化到参数里。

DeepTech：把新信息写进参数，传统持续学习面临的主要难点是什么？

张牧涵：传统持续学习面临两个主要难题。第一是在线更新的成本。

常见的梯度更新需要前向计算和反向传播，还可能需要保存大量中间状态及优化器状态，因此会带来额外的计算和显存开销。

而且通常也不是反传一次就能学会，还要经过多次梯度下降，才能取得有效的适应。不同微调方法的资源需求差别很大，但如果要高频、长期地更新，累计成本和系统调度仍然是重要问题。训练和推理所用的基础设施也不一样，前者需要的计算量和设备规模通常高得多。

第二个问题是灾难性遗忘。模型学了新知识，却忘掉旧知识，通用能力下降，甚至对新知识严重过拟合，变成复读机。

我们此前尝试用实时反向传播把上下文中的内容写入模型参数，就遇到了这个问题。训练得不够，模型记不住；训练得太多，又容易过拟合，只会复述，无法理解并依据新内容回答问题。中间的平衡很难找。

一些方法会在学习新知识时加入旧数据回放，帮助缓解遗忘，但额外的数据处理和训练也会增加成本。我们希望找到一种更容易兼顾效率和能力保持的更新机制。

成本和遗忘，正是传统持续学习的两大瓶颈，目前仍难以在两者之间取得理想的平衡。

DeepTech：你提到，直接通过梯度下降把新内容写进参数，既有成本问题，也可能出现过拟合和遗忘。你们的超网络是怎么解决这些问题的？能否以模型读完一篇新文章为例，讲讲从接收内容到完成参数更新，中间发生了什么？

张牧涵：我们选择了超网络，也就是用一个网络生成另一个网络的参数更新。核心想法是，把“看到新材料之后，参数应该怎样改”这件事，提前通过大量训练学到另一个模型里。

以模型读一篇新文章为例，基座先形成内部表征，再通过超网络把内部表征变成每层的参数更新。这些更新加载到基座上，完成了对基模的参数修正。之后回答相关问题时，就可以不再把整篇文章放进上下文。

传统微调是针对新材料计算损失、反向传播，再经过多轮优化得到参数更新。我们的做法，是通过已经训练好的超网络，在前向计算中直接生成更新。

这个机制本身仍然需要训练。训练超网络时，要通过下游任务检验生成的更新有没有用，再反向传播改进超网络。超网络训练完成后，每次使用超网络对基模更新参数时就只需要超网络进行一次前向传播即可，不再需要任何传统的多轮反传优化。

在我们最近的 27B 基模上测试，短文档通过超网络内化平均只需约 200 毫秒，计入参数导出和加载，平均约 2 秒。

现在，这个过程也已经扩展到了连续内化：模型读完第一段材料并完成更新后，第二段材料的学习会基于这个已经更新过的基模，前面的经历会影响后续学习。

DeepTech：对于同一份新材料，相比直接放进上下文、通过检索调用，或者做一次常规微调，你们的方法在什么情况下更有优势？

张牧涵：临时阅读一篇文章、回答一两个问题，直接放进上下文通常很合适。需要准确引用原文、追溯来源，或者资料频繁变化时，检索也很重要。

参数内学习真正适用的场景，是一些知识和经验会被长期、反复使用，希望彻底写入模型底层参数，而不必每次都携带大量原文，耗费大量 KV Cache。比如企业的规章制度、新出台的法规条例、必须严格遵守的代码规范等，都值得永久写进参数中，而我们的技术把这件事做到了秒级和推理成本。

用《盗梦空间》中的概念来说，我们做的是一种对模型的 inception。另一个场景，就是我之前说的轨迹。海量的轨迹不可能全放进上下文里或用检索调用去利用，这种也必须用参数内学习的方式从轨迹中提取普适的策略，使得模型下次会更倾向于生成正确的轨迹，抑制失败的轨迹。

DeepTech：针对这两大难题，你们最近取得了哪些进展？接下来会优先探索什么应用场景？

张牧涵：我们最近有一些让人受到鼓舞的阶段性进展，目标是降低更新成本，同时尽量保留模型已有的能力。

在目前的一些内部实验设置下，模型吸收新知识后，旧知识和通用能力得到了较好保留。接下来要验证的是，这些结果能否在更长时间、更多任务和不同规模的模型上持续成立。

基于这些进展，我们会先聚焦面向个人的智能模型，希望参数内的学习能够与已有的上下文、工具和记忆系统配合，让模型逐渐变得更适合不同用户。

理想情况下，在用户自主选择和授权的范围内，模型每天都能接触到与你相同的上下文，包括你看到、听到的内容，你的对话，手机和电脑屏幕上出现的内容，以及你阅读的新闻、文章和书籍。它可以与你一同经历和阅读，甚至读得更多、更快，并在这一过程中与你共同成长。当然，涉及他人的私密信息时，也需要尊重相应的授权和使用边界。

如果模型逐渐拥有你经历过的上下文，它就可能真正变成最懂你的个性化模型。一个人既是当下的自己，也由全部过往塑造，我希望个人 Agent 同样能经历与你相近的过程。

但这些上下文会迅速膨胀，不可能全部放进窗口。摘要或记忆管理可以保留一部分信息，但碎片化的文字记录未必等同于亲身经历，尤其难以完整保留视觉、听觉等多模态感受，也难以学习到隐式的风格、偏好等信息。

单靠 token、摘要或 RAG 还不够，我希望模型能实时把这些经历写入自身参数。

DeepTech：人的日常生活还包含视觉、听觉等多模态信息。和文字相比，这些信息内化到参数时有什么不同？你们在这方面做了哪些工作？

张牧涵：多模态内容经过编码，也可以表示为 token，进入上下文窗口。我们希望研究，怎样把其中有用的信息转化为能在后续任务中使用的参数更新。

无论是文本、视觉还是其他模态，我们都希望探索一套尽可能统一的内化机制。从原理上说，这是从 token 到参数空间的映射。

不过，多模态内容更容易让上下文迅速膨胀，因此既需要能容纳更长多模态上下文的窗口，也需要快速将其参数化的能力。这不是几个小技巧就能解决的，还需要在基础设施上做大量优化。

DeepTech：最近个人智能体很受关注，但它进入日常生活的程度还不高。除了订机票、订酒店，你觉得它未来有哪些更有想象力的应用？

张牧涵：我在 Meta 工作时，和同事聊过理想中的终极推荐系统，是一个极度个性化、真正懂你的模型，甚至比你自己还懂你，因为人有时并不完全知道自己想要什么。这个方向一直很吸引我。

推荐系统希望预判你的需求，把你可能需要的商品、帖子、广告或新闻推荐给你。为此，我们当时做了大量用户建模工作，尽可能利用用户过往的行为记录和留下的痕迹，更准确地理解一个人。

个人智能体也需要在长期协作中学习用户的偏好、兴趣和任务习惯。我们希望参数内的学习能够与已有的上下文、工具和记忆系统配合，让这种个性化更有效。

它或许能按你喜欢的套路写一部小说，哪怕是爽文，也能创作一首符合你偏好的音乐，甚至生成一款根据你的喜好编排情节的游戏。

今天的书籍、音乐和游戏，大多是由作家、音乐人或开发公司先做出来，再供所有人选择的标准件。如果有一天，它能专门为你生成你喜欢的内容，那是另一个维度的想象空间。我觉得这件事挺酷的。

一群零零后正在押注学习范式

DeepTech：很多模型公司、初创团队都在与时间赛跑。你怎么看初创公司与大厂在技术路线上的差异？无涯智远怎样发挥小团队的优势，在有限的窗口期里做出突破？

张牧涵：初创公司最大的优势就是小而精，可以非常专注于某一个技术突破、某一个领域，把它做好。

跟大厂竞争，就要打出差异化。对于做 RSI 的初创公司来说，直接拼算力和人才总量很难有优势，所以一定要押注别的东西。我们押注的，就是学习范式上的创新。

另外，我认为现在还是一个鼓励初创的时代。新的技术突破未必只会发生在大厂内部，初创公司也有机会抓住窗口，快速迭代自己的技术和产品，走出一条不同的路。

DeepTech：无涯智远的团队里有很多 00 后，甚至还有非常年轻的本科生。你希望形成怎样的团队文化？和这些年轻研究者一起工作，又有什么感受？

张牧涵：我们现在是一个非常技术导向的团队，大家有不同的研究和工程积累。团队的信息比较透明，讨论也很公开，遇到问题可以直接拿出来讨论。

团队里有很多 00 后。不过，我不太想给 00 后、05 后或者 90 后贴标签，每个人都有自己的性格。我觉得自己心态也挺年轻，和他们还是很同频的。

大家有一个比较相似的地方，就是对技术很纯粹，做的是自己感兴趣、也相信有潜力改变世界的事情。

团队里有不少优秀的同学，有各省的高考状元、全国竞赛金牌获得者，甚至有 15 岁就进入大学的年轻成员。

大家会一起看实验曲线、做分析、推导问题，有了结果就讨论起来。看到新的技术进展，也会很兴奋地交流、分享。对还在求学的年轻人，我希望他们先把基础打扎实，找到自己真正感兴趣的问题，保留独立探索的空间。

我们建立了不少基准测试和指标，一直在衡量技术有没有进展。我觉得，能吸引这样一群人，还是因为大家有共同的信念，也都愿意保持对研究的热爱。

DeepTech：你在高校和创业团队里接触了很多年轻人。面对竞争激烈的 AI 行业，你对他们的发展有什么建议，或者有什么自己的体会？

张牧涵：我不太喜欢讲大道理，但很愿意分享一点经验。首先是诚实面对自己，认真看见自己的缺陷。

人有本能的防御和逃避机制，一件事没做成，很容易先觉得是外界的问题。不管一个人多聪明、履历多出色，肯定都有不足。成功和失败也有不少偶然因素，只有正视这些，才有机会继续进步。

诚实面对自己，也意味着能够诚实地面对技术，不被表面的成绩冲昏头脑，在浮躁的表象背后看到更本质的问题，更加长期主义地做好一件事情。

学术诚信当然是最基本的底线，在这之上，还要诚实地衡量自己的判断和技术成果。只有这样，才有机会真正突破上限。

DeepTech：从产业界到学术界，再到创业，除了诚实面对自己，你还有什么一直坚持的原则？

张牧涵：还有一个就是感恩。上海交大的校训是饮水思源，对我影响很深。一路走来有很多人帮助过我，因此不能忘本。

我的成长离不开家人、老师和一路上帮助过我的人。我当年选择回国，也希望能在中国参与推动这个领域的进步，做出有价值的工作。

此外，我也希望能够始终诚信地做研发、做学术，诚信地与人交流。有的投资人觉得我太实在，不太会吹，但我不想改变这一点。

DeepTech：AI 发展很快，可能一个月就有新变化。展望三到五年后，你希望自己和团队处在怎样的状态？

张牧涵：现在其实很难预测三到五年后会发生什么。三年前，我们也很难预料 AI 会发展到今天这个水平。我们的外推能力远远跟不上这个时代，所以我只能拍脑袋想一想。

技术上，我希望我们真正推动持续学习和 RSI 的范式转变，产生世界级的影响。三到五年后，甚至更早，我希望运行中的模型都能实时进化，每个人、每个企业都拥有自己的个性化模型和智能。

团队方面，我希望每个人都能在这个过程中有所收获。三到五年后，有些同学未必还在公司，但我希望他们都能得到成长，成为这个领域最顶尖的人才。不论是财富、能力、还是个人成长上的追求，我都希望大家能够实现。

最后说到我自己，财富并不是最主要的追求。我更希望这些工作最终被很多人真正用到，让持续学习成为模型的一项常见能力。如果我们能推动这件事，就已经很有意义。

运营/排版：何晨龙

注：封面/首图由 AI 辅助生成