Jeff Dean对话李飞飞：RSI被硅谷过度炒作了吗？

AI 能否自己改进自己，甚至不断加快下一代 AI 的研发速度？过去几个月，递归自我改进（Recursive Self-Improvement，RSI）迅速成为硅谷的热门话题。

随着 AI 在编程、算法优化和模型研发中承担越来越多的工作，让 AI 参与自身研发的设想开始走向实践。但 RSI 究竟意味着什么，行业仍缺少统一的定义。从自动优化模型参数、寻找更好的神经网络架构，到让 AI 独立开展研究、持续改进自身能力，不同程度的自动化都被冠以 RSI 之名。概念的热度不断攀升，它的技术边界却仍然模糊。

近日，在斯坦福大学举办的“直面 AI 的未来”（Confronting Our AI Future）大会上，斯坦福大学计算机科学教授李飞飞与前 Google 首席科学家 Jeff Dean 就这一问题展开了讨论。

李飞飞直言，硅谷如今对 RSI 这一概念的使用过于宽泛，作为科学家，这让她感到困扰。她尤其质疑，AI 通过自我改进实现无限加速的设想是否被过度炒作，其中究竟有多少真实的技术依据。

对此，Jeff Dean 表示，自动化确实能够加快模型研发，但训练、计算和实验验证始终需要时间。他认为，有些人以为自我改进循环能够无限加速，这种想法并不现实。

有意思的是，Jeff Dean 本人也是这股 AI 自我改进热潮的参与者。今年 8 月，他结束了在 Google 长达 27 年的工作经历，与三位前 Google 核心研究人员共同创办 Discovery Loop，希望通过 AI 自动化实验循环，加速科学与工程研究。

在当天大会的闭幕环节，Jeff Dean 先进行了独立演讲，介绍 Discovery Loop 的研究方向与创业进展。随后，李飞飞登台与他展开了约半小时的对话。除了 RSI，两人还讨论了 AI 如何改变科学发现、机器能否创造优雅的数学证明，以及过去十年 AI 技术发展中一些出乎预料的变化。

（来源：StandFord HAI）

RSI 究竟能到什么程度？

在对话的开头，李飞飞首先提出了关于 RSI 的一个基本问题：这一概念与过去几十年机器学习领域研究的自我改进，究竟有什么区别？

她回顾说，从增量学习、持续学习，到元学习、终身学习，再到神经架构搜索，机器学习领域长期以来都在探索如何让系统通过经验提升能力。如今，人们开始频繁使用自我改进和 RSI 等概念，但这些术语之间的界限却十分模糊。

Jeff Dean 举了一个医学影像的例子。假设研究人员希望开发一个能够识别 MRI 图像的模型，可以让 AI 自动尝试不同的神经网络架构，再根据实验结果选择准确率更高的方案。随着实验不断进行，这个医学影像模型的性能可能逐渐提升。

这样的过程属于自我改进，但还不能算严格意义上的 RSI。因为负责提出实验方案、选择模型架构的基础系统，其自身能力并没有因此改变。真正的递归自我改进，还需要这个系统能够反过来改进自身的研究能力，让改进后的系统继续提出更好的方案，并通过后续研究进一步提升自己。

李飞飞认为，这一区别至关重要。她随即追问，既然 RSI 涉及系统自身的持续优化，那么它是否存在物理极限？为什么它会被被炒作得几乎像是一个没有终点的系统，其中真实的进展和虚构的界限在哪里？

Jeff Dean 以过去十多年的模型研发过程作为回应。在传统的 AI 研究中，研究人员通常会先开展大量小规模实验，判断哪些技术方案有效，再将成功的方案应用到下一代模型。Google 开发 Gemini 的过程也是如此，通过一轮轮实验和调整，不断改进模型的能力。

如果将其中一部分工作交给 AI，整个过程就有机会加快。例如，一项实验在凌晨两点结束，人类研究人员可能要等到早上八点才回来查看结果，而自动化系统可以立即分析数据，判断下一步应该尝试什么，并启动新的实验。在大型研发项目中，它还可能综合不同团队的实验结果，减少协调和等待所消耗的时间。

但 Jeff Dean 强调，模型训练仍然需要真实的计算过程。计算机必须完成任务，系统需要保存数据、分析结果，再据此决定下一轮实验。即使所有环节都实现了自动化，这些物理过程也无法被无限压缩。因此，在他看来，AI 自动化研发能够提高模型改进速度，但所谓无限加速的设想并不可信。

这与近期一些 AI 公司的乐观预期有所不同。今年以来，越来越多的创业公司开始探索自动化 AI 研究，希望让模型自主提出想法、开展实验并验证结果。但这些探索目前仍处于早期阶段，距离实现真正的递归自我改进还有多远，尚不明确。

11 月 5 日，AI 评估机构 METR 公布了对 Anthropic 内部研发流程的评估结果。研究人员结合部分内部数据和访谈发现，自 2025 年 10 月以来，Anthropic 模型在一组可明确衡量的任务上的能力进步速度，约为此前的 1.9 倍。

METR 认为，AI 在研发过程中的使用，很可能是这一加速的重要原因。不过，这项估计仍存在较大不确定性，当前 AI 也尚未能够在模型训练的关键环节中独立完成具有重大意义的研究工作。这些结果反映出 AI 辅助研发正在取得进展，但距离完整的递归改进循环仍有差距。

（来源：METR）

在对谈中，李飞飞还问了一个有趣的问题，那么人类算不算 RSI 系统？

她说，如果自己第一次做煎蛋卷失败，第二次通常会有所改善，尝试十次后可能就能做出可以入口的成品。这显然属于自我改进。但如果在反复学习的过程中，大脑的神经连接也发生改变，使自己变得更善于学习，那么这种过程是否就具有递归性？

Jeff Dean 认为，人类实际上兼具这两种能力。人既能学习具体知识和技能，也能逐渐掌握更有效的学习方法。后者使人可以在未来更快地学习其他事情，也是递归自我改进的关键。

在他看来，与其将 RSI 想象成一种能够无限加速的神秘机制，不如把它当作具体的工程系统，研究如何通过自动化实验、评估和反馈提高模型的能力。至于这种改进能够持续多久、最终达到什么程度，还需要依靠实际研究来回答。

除了 RSI，他们还讨论了什么？

除了 RSI 的概念争议，两人还讨论了 AI 将如何改变科学研究，以及过去十年机器学习领域的一些重要变化。

李飞飞首先询问 Jeff Dean，是什么促使他与其他三位长期在 Google 工作的研究人员决定离职创业。

Jeff Dean 解释说，他们很早就在研究如何利用自动化系统改进机器学习模型。十年前，神经架构搜索已经能够帮助研究人员寻找更有效的模型结构，但当时需要通过复杂的程序来指定搜索范围。如今，大模型和智能体的发展改变了这一过程，研究者可以直接用自然语言描述目标，让系统尝试设计模型、执行实验，再根据结果调整方案。

这也是 Discovery Loop 的技术路线。今年 8 月，Jeff Dean 与 Sanjay Ghemawat、Quoc Le 和 Oriol Vinyals 共同创办这家公司，尝试将 AI 应用于更完整的科研和工程实验循环。

（来源：Discovery Loop）

Jeff Dean 在独立演讲中介绍，Discovery Loop 已经搭建了内部智能体运行框架，支持研究人员与 AI 协作。目前，公司大约有 20 个自动化改进循环正在运行，主要探索如何提高实验迭代效率，以及如何让系统从先前的实验中积累经验。公司的长期目标是将领域专家的生产力提升 20 至 50 倍，但这一数字仍是尚待验证的目标。

在李飞飞的追问下，他进一步解释了目前的研究选择。Discovery Loop 最初主要关注机器学习研究、机器学习工程和硬件设计，因为这些任务的实验循环可以在数字环境中完成，更容易实现自动化。相比之下，生物医学、材料科学等领域通常涉及真实的物理实验，实验设备、测量过程以及材料本身都会影响研究速度。

Jeff Dean 表示，他对 AI 医疗研究一直很感兴趣，但公司会先从数字领域入手，再逐步向其他科学领域扩展。

由此李飞飞还问了一个更深入的问题，那就是这种强调提出假设、开展实验和评估结果的技术路线，会不会让 AI 科研越来越偏向实验主义？

她提到，物理学一直存在理论研究与实验研究的分工。像牛顿、爱因斯坦这样的理论物理学家，并不需要亲自开展大量实验，也能通过数学推导和理论思考建立新的科学认识。如果 AI 主要依靠大规模并行实验寻找答案，那么它能否承担类似的理论创新工作？

Jeff Dean 认为，两种研究方式并没有严格的界限。自动化系统同样可以根据已有的实验数据提出理论，再通过不断迭代寻找更简洁、解释力更强的方案。

他还设想，如果未来的 AI 系统积累了不同领域的大量研究经验，就可能从跨学科的实验结果中发现新的联系。传统科学研究通常按照学科划分，而机器系统未必需要遵循这些人为设定的边界。当然，这种跨领域知识积累究竟能否带来原创性的理论突破，目前仍有待验证。

接下来，李飞飞还将话题转向了近期 AI 在数学领域取得的一系列进展。她透露，最初筹备这场对谈时，自己其实想邀请数学家陶哲轩，还专门给他打了电话，但对方最终没能到场。

关于近期 AI 接连尝试解决数学难题的成就，李飞飞坦言自己心情复杂。在她看来，那些困扰数学家数十年甚至上百年的问题，代表着人类智力活动的高峰。数学家追求的不只是正确答案，还有证明过程中的美感。如今，AI 正在以一种截然不同的方式处理这些问题。

Jeff Dean 对此回应，AI 已经展现出解决高难度数学问题的能力，但部分机器生成的证明可能长达数百页 Lean 代码。即使能够通过计算机检验，人们也未必能从中找到简洁、优雅的数学思路。而人类数学家在寻找证明的过程中，常常会发展出新的数学方法，这些方法随后还能用于解决其他问题。

不过，他也认为，机器生成的证明同样具有价值。知道一个问题能够被解决，本身就可能激励数学家寻找更简单的证明，并推动相关研究的发展。

数学话题结束后，李飞飞还现场给 Jeff Dean 出了一道突击测验，考验他 2017 年 6 月 12 日有什么特殊意义？Jeff Dean 很快答出，这是 Google 研究团队将提出 Transformer 架构的经典论文《Attention Is All You Need》提交至 arXiv 的日子。

借着这段回忆，两人又聊起了过去近十年 AI 技术的发展，以及哪些进展曾超出他们的预期。

Jeff Dean 提到了 Transformer、知识蒸馏和混合专家模型（MoE）架构，认为这些技术对现代大模型的发展产生了重要影响。

但他承认，自己曾经以为，MoE 的出现会推动神经网络架构朝着更加复杂、多样，甚至更接近生物神经网络的方向发展。现实中，今天的大多数 MoE 模型依然采用相对规则的结构。另一件超出他预期的事情是编程能力的重要性。他没有充分预见到，编程会成为大模型解决复杂问题的关键能力之一。

对谈最后，两人谈及 AI 对社会的影响。李飞飞提到，面对快速发展的 AI 技术，许多大学生正在为就业和经济前景感到焦虑。Jeff Dean 表示他完全理解这种不安，因为世界变化得太快，年轻人很难为一个充满不确定性的未来做规划。

他建议年轻人主动了解正在出现的新技术，并学会将其运用到自己真正感兴趣的领域。“无论是成为医生、从事文学创作，还是更高效地编写软件，AI 都可以提供帮助。但人类的作用依然存在：我们需要自己决定，究竟想共同完成什么。”李飞飞也同意，在 AI 时代，人类的热情依然是永恒的。

回到这场对谈开始时关于 RSI 的争议，Jeff Dean 并不怀疑 AI 能够加快自身研发的速度，只是认为这种加速始终受到现实条件的限制。随着越来越多的研究工作交由 AI 完成，递归自我改进究竟能走多远，仍然是一个开放的问题。

在这场围绕 AI 自我进化的讨论中，两人最终谈到的，还是人类希望用这些技术做些什么。

1.https://hai.stanford.edu/events/confronting-our-ai-future-hope-fear-and-the-choices-ahead?section=watch-event-recordings

2.https://www.discoveryloop.com/blog/announcing-discovery-loop/

3.https://radical.vc/articles/our-investment-in-discovery-loop/

4.https://radical.vc/articles/radical-reads-jeff-dean-on-launching-discovery-loop/

5.https://evals.alignment.org/blog/2026-11-05-anthropic-ai-rd-acceleration-assessment/

6.https://metr.org/blog/2026-11-05-rd-section-anthropic-risk-report-august-2026-review/

7.https://www.reuters.com/technology/anthropics-models-improving-nearly-twice-fast-with-help-ai-study-finds-2026-11-05/

8.https://arxiv.org/abs/1706.03762

运营/排版：何晨龙

注：封面/首图由 AI 辅助生成