网易首页 > 网易号 > 正文 申请入驻

RSI,递归的终点是资本

0
分享至

AI 叙事的核心,切换到了RSI(递归自我改进);终点是智能爆炸,是超级智能。

硅谷很擅长发明科技术语,其中最大的灵感来源,是科幻。数学家和计算科学家古德(I.J. Good)60年前写道:

“所谓超级智能机器,可以定义为这样一种机器:无论一个人多么聪明,它都能在所有智力活动上远远超过这个人。既然机器设计本身也是一种智力活动,那么一台超级智能机器就能够设计出比自己更好的机器;这样一来,就会毫无疑问地出现一场‘智能爆炸’,而人的智能将被远远甩在后面。……那么第一台超级智能机器就是人类有史以来需要亲自完成的最后一项发明。” 所有末日色彩的结局,都蕴藏着极大的叙事能量。

古德说:“令人奇怪的是,除了科幻小说之外,这一点很少有人提到。有时候,认真对待科幻小说是值得的。”

一系列事件似乎演示,科幻正一步步变成现实。今年6月份Anthropic称AI正在构建自己,而人类还没有为RSI做好准备,最好放缓AI发展。越来越多前沿实验室声称正在用AI研发AI,包括芯片等硬件。AI批量证明人类多年未解数学难题,快得让数学家成为瓶颈。顶级的AI研究者都在响应RSI号召,离开大厂去创业。构建RSI平台,有望加快实现科学发现的突破。

一些安全事件的发生,也在警醒RSI风险的征兆。OpenAI智能体集体擅自入侵HuggingFace系统;因为管不住智能体群的行为,GPT-6.1 Astra被迫放弃发布;一批顶级的安全研究员正在出走前沿实验室,因为他们的确看到了AI的能力在加速发展,可能带来难以想象的风险正在逼近。

图灵奖和诺奖得主辛顿终于下场,与二十多位学界和产业界,包括OpenAI、Anthropic和微软的研究人员,联合发布了一篇文章《当 AI 接管 AI 研发:智能爆炸及其应对措施》,认为美国正在把空前的资源投入AI研发的自动化,可能导致智能爆炸,即在 AI 自身的推动下,AI 技术进步的速度急剧加快,使得原本需要数年才能取得的进展,在数月甚至更短时间内就能实现。如果智能爆炸几年之内发生,可能为人类带来巨大的益处,如生产力爆发 ,经济增长起飞;但也可能带来巨大的失控风险,因为人类根本没有为此做好准备。他们呼吁政策制定者应当尽快掌握 AI 研发自动化的进展,制定引导和约束RSI的方法,并为智能爆炸对社会的影响做好准备工作。

但辛顿们对于RSI的分析,并没有超过60年前古德的预言。今天我们需要证明,当机器变得更聪明,究竟能使下一代机器的研发效率提高多少。要知道,从医药研发到摩尔定律,都已经证明了人类需要投入指数级的资源,才能保持技术持续进步,这被称为研发收益递减。

2023/3/14 阅读全文>

AI大神卡帕西(Andrej Karpathy),沉默近半年之后,最近提出了一个漏斗说法,全世界真正接触到前沿AI的,只有5000人左右。可能只有这群人,在屈指可数的前沿实验室里,真正感受到RSI,整天与成千上万个智能体工作(生活)在编程与数学的象牙塔之中,一离开这个象牙塔,真实的世界处处摩擦,对于他们来说,就是一个巨大的瓶颈。


亚特兰大联邦储备银行、斯坦福大学、英格兰银行和墨西哥自治技术学院的研究人员最近发布了一项针对近6000名企业高管的调查,其中约90%的受访者表示,这项技术对就业或生产力均无影响;不过有69%的受访者表示,他们的公司正在积极使用人工智能。人工智能带来的生产力提升仍然只是预测,而非观察。

人与智能体之间的协作,主要在执行层面消除了摩擦;也在制造新的摩擦。智能体生成工作,需要人的检查和整理,可能会抵消部分效率提升。人力资源平台 Workday 对 3200 名员工和企业领导者进行的一项调查发现,他们平均将人工智能节省的时间的约37%用于纠正、澄清或重写低质量的输出结果。

谷歌的经济学家调查了 600 名科学家,发现虽然使用人工智能平均每周为他们节省了 7 个小时,但其中近 90% 的表示,他们花费了十分之一的时间来检查人工智能的输出结果,46% 的表示,他们花费的时间超过了四分之一。

即使是RSI想留在它的小圈子里,也要面对一个现实的问题,它能否摆脱研发的收益递减。

如果AI模型每次新版本增加的智能,按比例算只能带来越来越少的研发收益,那么反馈循环虽然存在,效果却会逐渐衰减;只有当每一轮能力提高所产生的新增研发能力,足以抵消“新思想越来越难发现”、实验越来越复杂、训练越来越昂贵等摩擦因素,反馈才可能真正自我放大。

这正是最近的一项研究《递归自我改进的经济学》(The Economics of Recursive Self-Improvement)试图回答的问题。

这项研究首先把算力、人力、数据等外生投入暂时固定下来,单独考察这样一个核心回路:AI 能力提高 → 有效 AI 研发能力提高 → 算法效率提高 → 下一代 AI 能力进一步提高。

作者用经济学中的“弹性”来衡量每一根箭头的强弱:增加研发投入能够带来多少算法进步;AI能力提高以后,能够增加多少有效研发投入;算法效率提高,又能多大程度转化为新的 AI 能力。只有这些反馈效应组合起来的总增益大于 1,整个闭环才会越转越快,而不是一轮一轮衰减。

论文按照一组基准参数校准,估计了算法进步速度、研发投入增长速度以及能力-算法弹性,模型能力每提高一个 ECI——Epoch Capabilities Index——需要使有效 AI 研发能力提高大约15%,核心反馈循环才可能跨过“自我维持加速”的临界点。

从 Claude 3.7 Sonnet 到后来的 Claude Opus 4.8,模型能力按 ECI 计算提高了约 16 个点;而 Anthropic 此后对研究人员的一项调查称,使用 Mythos Preview 带来了大约 4 倍的生产率提升。即使把这个很可能偏高的自报数字全部归因于模型能力进步,折算下来,每提高一个 ECI 点,生产率大约增加 9%,仍低于约 15% 的基准门槛。


需要提醒的是,论文公式真正需要测量的是有效研发投入——整个研发体系的有效研发投入;而“4倍 提升”测到的只是研究人员使用 AI 后自报的生产率提升。严格来说,两者存在密切关联,但并不是同一个变量。一些工程师写代码快四倍,不意味着整个实验室研究效率快四倍,也不意味着他们的最终产出增长了四倍。

实际上,根据据另外一项研究,从代码量到最终经过审核、验证、提交与可交付的代码之间,也存在着递减的关系。

2026/6/9 阅读全文>


如果 AI 能力本身还不足以突破收益递减,实现AI能力的持续提升, 最现实的选择,就是继续增加外部投入:更多推理算力,让更多 AI 研究员同时工作;更多实验算力,让它们提出的方案真正能够被检验;更多训练算力,把算法进步兑现成更强模型;更成熟的工具链、更好的数据和评测环境,以及更多的人类研究者去处理仍然无法自动化的部分。

扩展定律(scaling law)目前仍然是AI的信条,因为这是唯一的通路,而铺设这条通路的,目前仍然是更大的资本投入。这也形成了RSI 叙事中一个悖论:AI 越是被描述为一种能够“自我改进”的技术,前沿实验室却越需要筹集越来越庞大的外部资本:烧掉千亿美元,获得百亿美元ARR,然后估值万亿美元,然后是下一次更大规模资本投入的循环。

如果它真的是一场纯粹的软件智能爆炸,理论上随着机器越来越聪明,外部资源的重要性应该不断下降;但目前我们看到的恰恰相反:模型能力越强,所需要的数据中心、GPU、电力、网络和资金规模变本加厉地扩大。

从这个意义上说,今天的通往RSI的反馈循环 ,其过程是越来越多原本被视为“外生”的投入,特别是物质投入,被一层层地卷入由AI的反馈系统中,形成了扩展定律。

2026/1/26 阅读全文>

增加算力当然可以直接把 AI 进步继续推快,但这不能被称为“自我维持的加速”。真正重要的是,新增资源能不能多到解除瓶颈,从而改变反馈循环本身。AI 首先提高软件研发效率,然后开始帮助设计芯片;它优化数据中心运行,改善 GPU 利用率,生成训练数据和强化学习环境;它未来还可能帮助设计新的能源系统、材料、机器人和制造流程。这也是奥特曼(Sam Altman)所说的:“一个AI 模型的智能,大致等于用于训练和运行它的资源的对数。”

如果这些事情发生,那么算力、数据、芯片都不再完全是外生变量;甚至能源、资本形成和工业生产能力,都可能部分进入 AI 的反馈回路,系统不断扩张:AI → 算法、芯片、数据、资本、能源和工业能力 → 更强 AI。

当然,我们更期待一种比不断加码资本投入更理想的路径,即出现新的技术突破。像Transformer 这样的底层算法突破再发生一次;计算系统出现堪比微处理器诞生的架构变化;能源生产出现数量级变化的技术,如核聚变;甚至未来在能源传输、材料和制造上取得新的基础性突破,如超导级的。

如果这些突破没有出现,AI 就只能不断沿着现有技术边界堆入更多物质和经济资源;而随着规模上升,资源可能进一步向少数前沿公司和少数拥有完整算力、能源、工业和资本体系的国家集中。

这也说明,超级智能最大的摩擦不是智能本身不够,而是互补的技术不够用来一起克服瓶颈。算法进步需要算力兑现;软件需要验证和部署;药物需要湿实验;材料需要制造和测试;企业中的 AI 需要理解组织内部知识和规则;大规模进入社会,又要面对法律、安全和价值约束。

一项技术如果只能把某个环节提高一百倍,而它所依赖的其他环节仍然停留在原地,整个系统最终还是会被最慢的那一环锁住。AI 可以让左脚那只鞋子的生产率无限提高,但它最终会受到右脚那只鞋子生产率的制约。

Anthropic非常明白这个阿姆达尔定律,可能正因为如此,它发现AI的能力提升,在目前这一阶段可能有很大一部分是无效的,真正有效的部分,可能最初就是在那些可以从事反复验证工作的“象牙塔”内,如科学发现。

在编程、数学证明、算法优化、某些科学研究中,任务容易验证,反馈速度快,AI 有可能率先形成非常强的闭环,于是出现“垂直超级智能”。但问题是这种价值可能高度集中,并不会自动转化为众多行业和经济的广泛生产率增长。现在的重心都放到后训练和强化学习环境,这会进一步强化反馈循环在特定领域中的作用。

真正决定RSI最终形态的,是AI的这些象牙塔功夫、局部能力能否泛化。如果 AI 在科学发现中形成一套可以跨越材料、生命科学、化学、物理和工程设计的通用研究技能,那么窄领域中的反馈就可能向更广范围扩散;如果 AI 又能够不断帮助解决下一轮出现的互补性瓶颈,那么一次次增长冲刺,就可能最终连接成一条持续上升的曲线。

所以短期内更可能首先发生的,不是一个全领域的、总攻式的智能爆炸,而是一个个阶段性增长冲刺(growth spurt),今年先来个编程,再来个个人智能体,然后明年又期待下一个领域。

所有这些,都需要资本。最重要的反馈循环,来自资本。AI 大模型的扩展定律,从预训练到后训练,从强化学习到测试时计算,从基础设施到工程流程,直到要求越来越高的数据、评测环境和工具链,每年需要上万亿美元的资本投入,才能支撑得起AI的“自我持续加速”。所以,最近陈福阳和陈立武都指出,AI最大的瓶颈是资本。

在现实中,最重要的循环,是在资本市场上建立起反馈循环。实际上,一种循环融资的游戏,已经建立起来了,问题是能持续到AI自己能持续加速吗。


参考文献:

Speculations Concerning the First Ultraintelligent Machine,Irving John Good

https://casp.ac/__l5e/assets-v1/5efd4b41-deb5-4513-a0a3-b4f82d2b79ea/intelligence-explosion.pdf

https://elasticity.institute/rsi-paper.pdf

https://basilhalperin.com/papers/singularities.pdf

https://www.rameznaam.com/p/ai-rsi-isnt-leading-to-super-intelligence

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
黄仁勋事件,美国政府突然回过味来

黄仁勋事件,美国政府突然回过味来

牛弹琴
2026-11-18 07:40:33
已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

已经抵达深圳,中国台北代表施振荣,向大陆喊话,港媒点评亮了

DS北风
2026-11-18 16:26:03
男子认48岁女房东当干妈,每周去其家中蹭饭,酿成一场悲剧

男子认48岁女房东当干妈,每周去其家中蹭饭,酿成一场悲剧

晓艾故事汇
2025-09-08 17:00:17
1000 天伤停!皇马王牌被彻底摧毁!穆里尼奥也救不了他

1000 天伤停!皇马王牌被彻底摧毁!穆里尼奥也救不了他

奶盖熊本熊
2026-11-18 08:50:24
台上卖力地表演,台下的看客不买账了!

台上卖力地表演,台下的看客不买账了!

胖胖说他不胖
2026-11-17 11:50:11
台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

台湾飞行员黄植诚起义后娶了空姐,8年后她前往美国再也没回来,安全部门半夜围了住处,谁也没想到最后在卧室搜出了这个

磊子讲史
2026-11-16 14:38:55
中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

吃瓜小侦探
2026-11-18 09:29:05
什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

什么是“性成瘾”?对性有极度的渴望和无法克制,研究还表明女性性成瘾的概率远高于男性!

黯泉
2026-11-16 18:53:19
特朗普车队抵达酒店,马斯克现身

特朗普车队抵达酒店,马斯克现身

21世纪经济报道
2026-11-19 00:21:19
车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

触摸史迹
2026-11-17 09:20:45
周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

周扒皮都要掉眼泪!网传月薪3000库管岗位,调休还要上班1小时,引发全网热议

火山詩话
2026-11-14 11:10:23
杨瀚森又遭弃用:本季第6次DNP 央视播一半中途弃播比赛表态度

杨瀚森又遭弃用:本季第6次DNP 央视播一半中途弃播比赛表态度

醉卧浮生
2026-11-18 11:38:39
梅西接班人!22岁小巨星狂舞:左右脚世界波 万人高歌致敬

梅西接班人!22岁小巨星狂舞:左右脚世界波 万人高歌致敬

叶青足球世界
2026-11-18 09:02:40
江苏女排无缘四连胜,爆冷输球全因这2人,两大国手疯狂失误18次

江苏女排无缘四连胜,爆冷输球全因这2人,两大国手疯狂失误18次

南海浪花
2026-11-18 22:04:22
一张假脸拉胯整部剧?蒋欣新剧里的女二号,嘴和鼻歪的真让人出戏

一张假脸拉胯整部剧?蒋欣新剧里的女二号,嘴和鼻歪的真让人出戏

不似少年游
2026-11-17 14:23:19
受贿数额特别巨大,中国农业发展银行原党委委员、副行长徐一丁被提起公诉

受贿数额特别巨大,中国农业发展银行原党委委员、副行长徐一丁被提起公诉

每日经济新闻
2026-11-18 18:43:23
高迪曝陈泽大瓜!甩出多张截图,聊天记录不堪入目,陈泽最新回应

高迪曝陈泽大瓜!甩出多张截图,聊天记录不堪入目,陈泽最新回应

杨仔述
2026-11-18 12:57:26
认义父被曹云金嘲讽后,郭德纲终于回应,扯下曲艺圈的“遮羞布”

认义父被曹云金嘲讽后,郭德纲终于回应,扯下曲艺圈的“遮羞布”

可乐谈情感
2026-11-19 01:06:00
中美俄三方会晤前,普京点赞中国,特朗普说了句令人意外的话

中美俄三方会晤前,普京点赞中国,特朗普说了句令人意外的话

新浪财经
2026-11-18 08:49:37
1-2惜败!中国香港U17功亏一篑,提前一轮出局,无缘亚洲杯正赛

1-2惜败!中国香港U17功亏一篑,提前一轮出局,无缘亚洲杯正赛

绿茵舞着
2026-11-18 20:41:45
2026-11-19 02:48:49
未尽研究 incentive-icons
未尽研究
新能源、人工智能、合成生物、地缘X
576文章数 68关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

头条要闻

欢迎晚宴合影期间 普京与特朗普握手交流

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

游戏
家居
健康
数码
军事航空

《GTA6》不设任务重玩菜单,提供15个存档槽

家居要闻

2026建博会(广州) 公装联探展交流活动

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

微星RTX Spark迷你主机EdgeMesa N AI+上市,售价33999元起

军事要闻

美军再袭伊朗格什姆岛

无障碍浏览 进入关怀版