AI 正着手打造更强的下一代 AI

设置星标★关注，从此你的世界多点科学~

人工智能领域发展之初，就已奠定了“未来机器能够自我提升”的构想。

正如英国数学家欧文·约翰·古德(Irving John Good)在1965年所提出的：一台超级智能机器可以设计出比自己性能更强的机器，那必定带来“智能大爆炸”，意味着将人类智慧远远甩到身后。

长期以来，AI研究者对所谓的RSI，即‌递归自我改进/优化/提升(recursive self-improvement)，始终抱持矛盾心态，既向往它，又害怕它。如今，AI技术飞速发展，让人们不得不思考：RSI过程的部分环节是否已经启动？

对不同人而言，递归自我改进的含义可以截然不同。一部分人以此制造恐慌、呼吁监管；另一部分企业则将其用作营销手段。有人认为它代表完全自主、无需人类的闭环；也有人将一切利用已有技术新创技术的活动都笼统归为RSI。

可以将递归自我改进概念视为一个区间。若遵循最严苛的学术定义，RSI特指一类系统：它们不仅能改进自己输出的结果，更能改进自己“改进输出结果”的流程，即在全程无人类指导的前提下，自主生成想法、评估结果并修改自身方法。

若以上述严苛标准衡量，当前绝大多数AI系统都远未达标。为开发更优秀的AI，人类会负责设定目标、定义标准并筛选理想方案——现有的AI仍只是人类帮手，无法自建自我优化闭环。

通往AI自我演进的路上

数十年来，科研人员持续构建RSI所需的各项要素。机器学习算法能自动调整程序参数，让程序自己玩游戏，甚至编写新程序；其中进化算法能不断生成多样化的设计方案，例如机械结构、行动策略乃至其他算法，并从中筛选迭代、持续优化。

过去十年间，自动化机器学习已经实现了机器学习流程中多个环节的自动化，包括神经网络等机器学习模型的结构设计、训练和评估。如今，GPT、Gemini、Claude、Grok等大语言模型延续了发展势头。这些大模型的最主要应用之一就是代码编写，包括编写用于生成下一代自己的代码。

2026年2月，OpenAI公司推出AI智能体编程模型GPT‑5.3‑Codex，并表示它能深度参与自己的升级迭代，负责调试训练过程、管理部署、分析评估结果等工作；Anthropic公司也表示，其内部绝大多数代码现已交由Claude Code编写。当然，人类对AI工作的指引与核验依旧不可或缺。

2025年，谷歌DeepMind发布了进化式编程智能体AlphaEvolve的智能代码体。这款主打科学发现与算法创新的产品，依托大模型推演优化方案，提供更先进的芯片设计、更简洁的神经网络架构改良、更高效的数据中心调度……当然，AlphaEvolve还未形成完整递归循环，人类仍需指定交由系统解决的问题并设定评判机器表现的标准。

参与AlphaEvolve项目的计算机科学家马泰·巴洛格(Matej Balog)表示：“在这套体系中，人机之间高度协作。人类观察着机器自主发现的成果，并能从机器的发现学到新东西。AlphaEvolve已带来不少惊喜。我们的目标是借助AI，发掘超越人类直觉的新算法；眼下的初步成果则证明这种目标绝非空想。”

另一方面，两位曾为DeepMind主导芯片自动设计工具AlphaChip开发的专家，阿扎莉亚·米尔霍塞尼(Azalia Mirhoseini)与安娜·戈尔迪(Anna Goldie)，创立了名为“递归智能”(Ricursive Intelligence)的初创公司，主打“用AI设计芯片”。米尔霍塞尼指出，公司团队有望将芯片设计周期从一到两年压缩至数天。这项宏伟计划分三个阶段：

第一阶段，AI辅助人类芯片设计师完成工作；第二阶段，AI帮助缺少设计师的企业实现设计流程自动化；第三阶段，实现递归循环，即用AI设计更好的芯片，再用更好的芯片训练出更强的AI，更强的AI设计更更好的芯片……

当然，正如戈尔迪所言，即便到了终极阶段，人类监管仍是必须的。

另有项目聚焦于“AI智能体自主修改自身代码”。2025年，不列颠哥伦比亚大学团队联合日本企业Sakana AI的专家，共同发布“达尔文-哥德尔机”(Darwin Gödel Machines)。

这套体系依托进化算法，能不断改进基于大语言模型的编程智能体；关键在于，智能体有能力修改自身代码(底层大模型不可修改)，并且越发熟练地自我修改。

此外，开发达尔文-哥德尔机的团队中有人还打造了所谓“AI科学家”(AI Scientist)。根据2026年3月《自然》（Nature）的报道，该AI科学家旨在实现全面的科研流程自动化，即自主构思研究课题、利用软件运行实验、撰写学术论文乃至进行“同行”评审。

或许在不远的将来，我们能看到AI一边速写代码，一边指导实验，一边读着自己过往“发表”的论文并冒出一个全新idea。

不列颠哥伦比亚大学计算机科学家杰夫·克鲁恩(Jeff Clune)先后参与了达尔文-哥德尔机和AI科学家两大项目的开发。他表示，当下硅谷科技界最热门的方向之一便是“以AI开发AI”。“我们距离实现人工智能系统的递归自我改进仅一步之遥，RSI将彻底重塑科研、工业乃至社会文化的方方面面。”

AI的自我改进之路面临多少挑战

不可否认，当前的AI距离实现递归自我改进还需时日。

如克鲁恩所言，从生成创意到落地方案再到评判成果，机器的表现只能说尚可，远谈不上出色。

美国创新基金会高级研究员迪恩·鲍尔(Dean Ball)指出，AI科学家仍无法比肩顶尖人类科学家，短期内也很难追上，至少未来一年内，它们只能接管算法优化之类的重复性基础工作。

另一方面，AI能力在提升并不意味着AI递归自我改进的进程在加速。艾伦人工智能研究所的计算机科学家内森·兰伯特(Nathan Lambert)近期撰文提出：与其期盼理想化的RSI，不如准备迎接LSI，即所谓的有损自我改进(lossy self-improvement)。

在LSI中，来自各类流程、不断增加的摩擦会拖慢系统自我优化的循环。部分原因在于大型AI系统架构日趋复杂，研究人员的工作重点将转向针对复杂性的管理，而非局部精雕细琢；此外，顶尖系统的研发成本动辄数十亿美元，没有企业敢任由AI自主支配巨额资金。

现实层面的约束同样不可忽视。长期研究RSI的鲍尔并不认同所谓“末日论”，即失控的RSI将摧毁人类文明。

他提出，AI若要掌控世界，绕不开无数现实门槛，小到实验操作，大到政治博弈；再者，人类知识是分散的，且包含大量“不可言传”的隐性知识，举例来说，芯片制造商台积电的核心竞争力源于9万名员工协作共筑的集体智慧，要将其整合至某个AI系统谈何容易。

完整的递归自我改进，不仅能自主设计软件和芯片，还要负责搭建数据中心、运营发电厂、开采矿产等一系列任务——具备自我复制能力的机器人在其中发挥重要作用。

基于以上种种原因，不少研究者认为人类将是长期主导者，AI虽强却仍是副手。Meta公司的研究员杰森·韦斯顿(Jason Weston)与雅各布·弗斯特(Jakob Foerster)认为，以人机协同方式实现最大程度的系统提升，可能才是更现实、更有益人类的目标。

人类有自己独特的洞见，也有能力引导AI向善发展，因此，让人类参与其中，既可加快技术迭代，也能保证安全前行。

递归自我改进与世界末日假想

许多悲观的科学家仍不排除RSI失控(或称“技术奇点”)的风险。

2025年，有人采访25位人工智能专家，探讨让AI开发AI的风险。其中23位受访者都认为RSI可能引发智能爆炸。专家普遍判断，各大AI企业会将具备自我优化能力的模型内部封存，不对外公开部署。

蒙特利尔大学计算机科学家大卫·克鲁格(David Scott Krueger)呼吁全球暂停前沿AI开发，因为“这是拿全人类的命运赌博”。他还提出一条触发暂停的红线，即99%的代码都由AI编写。“我认为我们正接近那个临界点。”

鲍尔虽反对AI技术奇点之类末日理念，但也主张严密监管那些开展RSI研究的前沿AI实验室，以防相关模型落入不法分子手中，被用于开发生物武器、网络攻击工具等。

AI的“寒武纪大爆发”

大众设想的递归自我改进，往往是“某个AI巨无霸拥有深不可测的智力”，但现实更有可能类似生物演化：大量差异化智能体涌现，彼此协同运作。克鲁格认为，未来世界或将迎来一场AI的“寒武纪大爆发”，AI会形成自己的生态、文化和经济。

克鲁恩相信，RSI的发展动力将主要来自进化算法，来自无强目标导向的开放式探索，此外，智能体之间的协作也很重要。诸如AI科学家这类能将新发现整理为出版物的系统，无疑为智能体共享成果、继往拓新提供了平台。

在AI研发领域，人类科学家或许会逐渐边缘化，甚至最终退出行业，但此过程势必缓慢。克鲁恩预测了三大阶段。首先，人类摆脱低级别工作，成为教授式的研究方向引领者。之后，人类承担起项目主管乃至CEO式的决策者，制定更为宏观的规划。最终，人类只保留监督管理职能——这也是克鲁恩希望人类永不放弃的角色。

资料来源：

《世界科学》杂志版在售中 欢迎订阅

月刊定价

15元/期

全年订阅价

180元

点击左侧图片或以下方订阅方式选购

方式一：

扫描二维码，“杂志铺”（第三方平台）订阅有折扣～

方式二：

全国各地邮局订阅 邮发代号：4-263

方式三：

机构订阅，请拨打

021-53300839；

021-53300838