网易首页 > 网易号 > 正文 申请入驻

集智谷线下场|自指式内省:大语言模型难以跨越的复杂度阈值|自指与AI读书会第一期

0
分享至


导语

随着大模型能力不断迭代,AI自主改进AI的设想不再只存在于科幻之中。递归自我进化的人工智能会面临哪些底层约束?自指逻辑能否为理解大模型的自我优化提供理论钥匙?这些横跨理论计算机、复杂系统与AI安全的问题,正吸引越来越多跨学科研究者的关注。

本期读书会为自指与AI读书会第1期,活动地点位于北京门头沟・集智谷,欢迎大家到现场深度参与。北京师范大学系统科学学院教授、集智俱乐部创始人张江老师将围绕AI递归自我改进展开分享,借鉴冯・诺依曼复杂度阈值,结合自指与递归定理解析内省的理论作用,分析自省程序的核心性质,梳理当前大模型的能力瓶颈,并探讨未来架构路径与安全问题。

为系统梳理自指与AI领域的最新进展,北京师范大学系统科学学院教授、集智俱乐部创始人张江老师联合清华大学人工智能学院博士生李筱健共同发起,组织对该主题感兴趣的研究者与探索者共同研读前沿文献、交流研究思路。读书会将于2026年8月29日起每周六下午14:00-16:00线上开展,持续约10周,包含主讲分享与讨论交流,并提供会后视频回放,诚邀相关领域研究者及跨学科兴趣者参与。


论文题目:Self-Referential Introspection in Large Language Models: The Critical Threshold for Recursive Self-Improvement 论文链接:https://doi.org/10.3390/e28090951 发表时间:2026 年 8月 24 日 论文来源:MDPI




报告简介

目前,AI的自我进化,用AI建造AI成为了当前研究的热点。对自我进化人工智能的追求引出了一个关键问题:自我改进的AI模型需要满足什么条件才能做到可持续的,而非退化性的改进?参照冯·诺依曼(von Neumann)针对自我复制自动机的复杂度阈值进行类比,本报告提出,大语言模型(LLM)中可持续的递归自我改进需要一个功能类比物:内省(introspection)——即系统模拟自身操作并定位修改的能力。基于克林尼第二递归定理(Kleene's Second Recursion Theorem),我们构造了此类内省式自我改进程序,并证明了它的关键性质:自我修改的完备性、反射式架构的必要性、改进在一般情况下不可判定性,以及在重写等价意义下与施密德胡贝尔 (Schmidhuber) 的Gödel机的一致性,后者可以保证全局最优性。围绕这些功能标准,我们对近年来发表的文献进行了回顾,发现现有大语言模型仅表现出准内省(quasi-introspection)的特征。现有证据并未建立起此处形式化意义上的完整内省,同时指出了若干候选的结构性瓶颈,包括自我访问不完整、前馈处理以及有限的计算深度等。我们勾勒出通向该阈值的架构路径,并讨论了越过该阈值的安全性影响。

分享大纲

  • 自我改进的人工智能

  • 冯诺依曼的复杂度阈值

  • 自指与Kleene第二递归定理

  • 自省程序及其关键性质

  • 大语言模型自省的综述

  • 展望

核心概念

自指、内省(自省)、递归式自我改进、AI的持续演化、复杂度阈值

主讲人介绍

主讲人:张江,北京师范大学系统科学学院教授,集智俱乐部创始人,集智学园(北京)科技有限公司创始人兼董事长,集智研究中心理事长,National Science Review 编委成员。主要研究领域:因果涌现、复杂系统分析与建模、复杂网络与机器学习、社会与经济系统的规模法则(Scaling Laws)等。多篇文章发表在包括:Nature Communications、Nature Machine Intelligence、National Science Review、Nonlinear Systems、Chaos等国际知名刊物上。曾出版专著《规模法则——探索细胞到城市的普适规律》、第二作者合著《数字创世纪——人工生命的新科学》,及译著《自然与人工系统中的适应——理论分析及其在生物、控制与人工智能中的应用》等。

参考文献

  • Zhang, J.; Yuan, B.; Zhang, Q. Self-Referential Introspection in Large Language Models: The Critical Threshold for Recursive Self-Improvement. Entropy 2026, 28, 951. https://doi.org/10.3390/e28090951

  • Ilia Shumailov, Zakhar Shumaylov, Yiren Zhao, et al. AI models collapse when trained on recursively generated data. nature, 2024, 631(8022): 755-759

  • John von Neumann. Theory of Self-Reproducing Automata. UMl Reprint University Illinois 1966 Ed, 2002

  • 东方和尚, Jake. 自复制自动机理论前五章中文翻译, 2011

  • 侯世达 Douglas Richard Hofstadter. 哥德尔、埃舍尔、巴赫. 商务印书馆, 1997

  • Nigel Cutland. Computability: An Introduction to Recursive Function Theory. Cambridge University Press, 1980

  • Juergen Schmidhuber. Goedel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-Improvements. arXiv:cs/0309048, 2006

活动预告

⏰ 时间:2026年8月29日(周六)14:00-16:00

线下:北京门头沟区 · 集智谷

线上:腾讯会议

直播:集智俱乐部微信视频号 + B站账号同步放送

感兴趣的朋友请扫码报名加入读书会,报名后可进入学员群参与交流讨论。期待与你共探自指与AI的深层连接。

直播信息

报名读书会:「自指与AI」

北京师范大学系统科学学院教授、集智俱乐部创始人张江老师联合清华大学人工智能学院博士生李筱健共同发起,组织对该主题感兴趣的研究者与探索者共同研读前沿文献、交流研究思路。

读书会自2026年8月29日起,每周六下午14:00-16:00线上开展,预计持续8-10周,包含主讲分享与讨论交流,并提供会后视频回放,诚邀相关领域研究者及跨学科兴趣者参与。

扫描海报中二维码报名参加读书会


报名方式:

第一步:微信扫码填写报名信息。

第二步:填写信息后,付费报名。如需用支付宝支付,请在PC端进入读书会页面报名支付:

第三步:添加运营助理微信,拉入对应主题的读书会社区(微信群)。

PS:

我们鼓励围绕复杂系统、人工智能及相关具体问题的深入探讨。为保证讨论质量,请避免发表脱离本期读书会主题、缺乏实证基础或过于空泛的哲学思辨类内容。

若讨论内容明显偏离主题,经主持人提醒后仍未调整,为维护整体学习环境,我们将不得不将该成员请出讨论群,并根据其实际参与进度,对未参与部分按比例办理退费。

感谢您的理解与配合,让我们共同营造一个专注、深入、有收获的共学空间。

加入社区后可获得的资源

完整权限包括:线上问答、录播回看、资料共享、社群交流、信息同步、共创任务获取积分等。


特色退费与激励机制

我们提供以下两种途径,让您的投入获得实际回馈:

  1. 任务达标退费路径

    认领并合格完成任意两期字幕任务,即可退还全额报名费,并额外获得集智专属周边奖励。

  2. 运营成长激励路径

    合格完成一个字幕任务后,可申请成为运营助理。在读书会项目顺利结项后,将退还学费。表现优异者,还有机会获得额外的奖学金。

1.「自指与AI」读书会推荐阅读材料

扫描下方二维码可跳转至集智斑图网站阅读文章:「自指与AI:从大模型自我改进到意识研究」读书会推荐阅读材料。

2.往期公众号相关内容推荐

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
黄景瑜拒不道歉 14 个月,法院强制执行,这事儿判得不轻

黄景瑜拒不道歉 14 个月,法院强制执行,这事儿判得不轻

观察鉴娱
2026-10-27 09:43:05
搜狐市值只剩3.5亿美元,可公司账上却有12亿现金,张朝阳宁可错过短视频等风口,也不多花每一分钱

搜狐市值只剩3.5亿美元,可公司账上却有12亿现金,张朝阳宁可错过短视频等风口,也不多花每一分钱

新浪财经
2026-10-13 21:44:48
iPhone Duo内屏开裂引热议!富士康员工:因产能吃紧苹果曾降低过一定良率质检标准

iPhone Duo内屏开裂引热议!富士康员工:因产能吃紧苹果曾降低过一定良率质检标准

快科技
2026-10-27 07:52:04
国常会最新定调

国常会最新定调

21世纪经济报道
2026-10-27 16:03:13
放弃轮换前锋,火箭队3换1不亏!加盟老鹰队,33岁侧翼机会全无,4战只出场1次

放弃轮换前锋,火箭队3换1不亏!加盟老鹰队,33岁侧翼机会全无,4战只出场1次

熊哥爱篮球
2026-10-27 18:31:50
3020亿!刚刚公布:江苏首富是他!

3020亿!刚刚公布:江苏首富是他!

镇江风情
2026-10-27 20:37:16
加拿大科学家发现,蒲公英 48 小时杀死 98% 癌细胞,是否属实

加拿大科学家发现,蒲公英 48 小时杀死 98% 癌细胞,是否属实

磊子讲史
2026-10-19 18:15:23
周涛与前夫姚科未离婚之前的一张合影照,儒雅的姚科,终究留不住周涛

周涛与前夫姚科未离婚之前的一张合影照,儒雅的姚科,终究留不住周涛

南万说娱26
2026-08-22 08:56:48
万岁山NPC“胖郎中”宣布离职:4个月把了9000人的脉,拒绝景区涨薪挽留,想当一名好中医,“在这里一辈子也不可能实现”,将考医师资格证

万岁山NPC“胖郎中”宣布离职:4个月把了9000人的脉,拒绝景区涨薪挽留,想当一名好中医,“在这里一辈子也不可能实现”,将考医师资格证

极目新闻
2026-10-26 14:28:19
16连败历史第4!广州网球公开赛:46岁大威0-2不敌18岁新星

16连败历史第4!广州网球公开赛:46岁大威0-2不敌18岁新星

全景体育V
2026-10-27 19:43:42
杨振宁妻子翁帆自白:为了先生的身体,我16年来都是早睡早起

杨振宁妻子翁帆自白:为了先生的身体,我16年来都是早睡早起

翰飞观事
2026-10-25 11:52:20
亚足联:坚决驳斥约旦足协主席此前言论;特别大会未限制任何人发言

亚足联:坚决驳斥约旦足协主席此前言论;特别大会未限制任何人发言

懂球帝
2026-10-27 17:58:30
领导说过那句高水平的话,让你受用至今,网友:一语惊醒梦中人!

领导说过那句高水平的话,让你受用至今,网友:一语惊醒梦中人!

夜深爱杂谈
2026-10-27 11:54:45
光这个海报封面,都把我吓得一哆嗦

光这个海报封面,都把我吓得一哆嗦

熊倌儿
2026-10-23 08:44:57
寿司郎中国:已立即停业整顿

寿司郎中国:已立即停业整顿

蓬勃新闻
2026-10-26 19:22:40
评姆巴佩道歉:他不是知道错了,而是怕不能在中国捞钱了

评姆巴佩道歉:他不是知道错了,而是怕不能在中国捞钱了

深度人物说
2026-10-27 20:59:36
比一票否决更可怕的是:全票通过,联合国五常一致对外会发生什么?

比一票否决更可怕的是:全票通过,联合国五常一致对外会发生什么?

磊子讲史
2026-10-20 14:47:18
章建平夫妇出手,大举加仓两股

章建平夫妇出手,大举加仓两股

21世纪经济报道
2026-10-27 20:37:36
塞尔维亚公布议会选举初步结果

塞尔维亚公布议会选举初步结果

新华社
2026-10-27 13:06:03
WTT冠军赛:王楚钦终结者开门红!首局轰11-7,瑞典德比1-0领先!

WTT冠军赛:王楚钦终结者开门红!首局轰11-7,瑞典德比1-0领先!

刘姚尧的文字城堡
2026-10-27 19:48:30
2026-10-27 22:11:00
集智俱乐部 incentive-icons
集智俱乐部
科普人工智能相关知识技能
6104文章数 4691关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

反诈博主2年前已遇害 举报对象6月才出现在官方通报中

头条要闻

反诈博主2年前已遇害 举报对象6月才出现在官方通报中

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

韩国芯片出口额可能下降高达1000亿美元

汽车要闻

纯电续航1003km 大五座SUV腾势N8正式开启预订

态度原创

本地
亲子
教育
公开课
军事航空

本地新闻

十月奔赴迪庆,解锁梅里日照金山

亲子要闻

“人形抱枕”最佳替代品,抱着它,睡的真好!!!

教育要闻

2027届注意!昆山杜克大学申请季临近

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊总统佩泽希齐扬抵达莫斯科 俄仪仗队列队迎接

无障碍浏览 进入关怀版