网易首页 > 网易号 > 正文 申请入驻

OpenAI新模型“Astra”:核心技术“循环深度”可实现超强推理,但允许不再完整输出“思维链”

0
分享至

OpenAI即将推出的新模型“Astra”正在AI研究圈引发广泛关注与争议——它在性能上可能带来自GPT-4以来最大的一次飞跃,但其背后的新型推理技术却同时引发了对AI安全监控能力下降的担忧。

据科技媒体The Information 9月2日报道,Astra搭载了一项创新技术,核心在于突破模型“思考”复杂问题的上限。部分研究人员认为,Astra在编码和计算机使用能力上的提升,可能堪比OpenAI 2023年发布GPT-4时带来的性能飞跃,远超去年夏天GPT-5发布时的表现。这对于依赖AI生产力提升来支撑数据中心大规模建设投资的整个行业而言,无疑是一个积极信号。

然而,这一技术突破也带来了不容忽视的隐患。新技术允许模型在不完整输出“思维链”的情况下完成深度推理,这意味着研究人员可能无法像以往那样有效监控模型的推理过程,从而削弱现有的安全审查机制。目前,OpenAI正采取措施确保Astra的思维链仍保持可见,但业界对这一权衡的长期走向仍存在分歧。

性能突破:新推理技术或复现GPT-4级飞跃

Astra的核心技术突破与“循环深度”(recurrent depth)及“循环变换器”(loop transformers)等概念密切相关。

据The Information报道,该技术通过将问题反复传递至模型数学运算的各个“层”中进行处理,再生成答案中的下一个词,从而使模型能够在不显著增加参数规模的情况下,展现出远超自身体量的推理能力——其效果相当于一个规模大得多的模型。

部分研究人员认为,Astra凭借更强的编码与计算机使用能力,其性能提升幅度可能与2023年GPT-4发布时的跨越式进步相当,远超去年夏天GPT-5上线时相对平稳的市场反应。

这一进展对整个AI产业链具有重要意义。当前全球数据中心的大规模建设,其底层逻辑正是押注于AI能力的持续提升将带动生产力增长,进而转化为更高的商业收益。若Astra的性能表现达到预期,将为这一投资逻辑提供有力支撑。

值得注意的是,这一技术并非全新概念。AI研究先驱Jürgen Schmidhuber在社交平台X上指出,“循环深度”的核心思路实质上早已见于他2015年的论文《On Learning to Think》(arXiv:1511.09249)。

他表示,该论文中的控制网络C本质上是一个提示工程师,通过学习查询独立的神经世界模型来进行抽象推理,生成的提示和回答是内部自生成的向量序列,无需以自然语言呈现。

安全隐患:思维链监控机制面临挑战

新技术在带来性能提升的同时,也对现有的AI安全监控框架构成了潜在冲击。

报道称,目前,主流AI模型在处理复杂问题时,通常会以文字形式输出其推理过程,即“思维链”(chain of thought)。这一机制不仅提升了模型的可解释性,也是研究人员监控模型行为、防范异常操作的重要手段。

据The Information报道,思维链监控正是OpenAI在今年7月Hugging Face黑客事件发生后,提出的防止类似安全事故重演的主要解决方案之一。

然而,Astra所采用的新推理技术,在模型深度“思考”时可能不会完整输出推理步骤,而是在模型内部“静默”完成运算。这意味着,模型越依赖这一新技术,其推理过程对外部监控者而言就越不透明。

对此,OpenAI目前正采取措施加以平衡。据悉,该公司正指导模型减少问题在运算层中的循环次数,以确保Astra的思维链仍保持一定程度的可见性——循环次数越少,模型“静默思考”的空间就越小。

各大实验室已在跟进,长期监控方案仍待解

这一技术趋势的影响或将远不止于OpenAI一家。据The Information报道,上述新型推理技术已成为各大主要AI实验室内部讨论的热点话题,Anthropic、谷歌等机构采用类似技术路线的可能性不容低估。

多位研究人员指出,思维链监控本就不会是AI行为监控的终极解决方案。随着模型能力的持续演进,模型以文字形式输出思维过程这一特征,在很大程度上只是当前训练方式的副产品。

随着模型开发者探索新的优化方向和架构设计,模型自发输出思维链的倾向可能会逐渐减弱,研究人员届时将不得不开发新的监控手段。

报道指出,当前的核心问题在于:在性能竞争日趋激烈的压力下,各大AI开发商是否会为追求更强的推理能力而主动放弃现有的安全保障措施?这一问题的答案,将在很大程度上决定下一阶段AI安全治理的走向。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
周末大事件,“烟草系”全出马了

周末大事件,“烟草系”全出马了

巴山侃侃
2026-09-06 23:56:48
死在加州路边的阿里总监:42岁,年薪百万,却买不到一张回程机票

死在加州路边的阿里总监:42岁,年薪百万,却买不到一张回程机票

椰青美食分享
2026-09-06 13:13:24
阴蒂神经图谱首破解,比阴茎研究晚了28年

阴蒂神经图谱首破解,比阴茎研究晚了28年

爬虫饲养员
2026-09-06 13:45:36
7个葫芦娃剪掉后第一个清晨:葫芦娃爷爷趴在阳台上打水,葫芦娃没了,流量点没了,现场几乎没人拍了

7个葫芦娃剪掉后第一个清晨:葫芦娃爷爷趴在阳台上打水,葫芦娃没了,流量点没了,现场几乎没人拍了

火山詩话
2026-09-07 05:57:18
002172,直线涨停,封单一度超200万手!我国首款AI辅助创新药获批上市,机构扎堆关注12只概念股

002172,直线涨停,封单一度超200万手!我国首款AI辅助创新药获批上市,机构扎堆关注12只概念股

数据宝
2026-09-07 12:33:10
多地公交重启燃油车,不是新能源落败,残酷现实给行业敲醒警钟

多地公交重启燃油车,不是新能源落败,残酷现实给行业敲醒警钟

你在偷看谁
2026-09-06 21:02:10
“人造假牛肉”市场泛滥!做法极其恶心,以后买牛肉认准这4点

“人造假牛肉”市场泛滥!做法极其恶心,以后买牛肉认准这4点

史之韵
2026-09-06 00:34:04
联合国公布新的世界地图 格陵兰岛和俄罗斯看起来不再巨大

联合国公布新的世界地图 格陵兰岛和俄罗斯看起来不再巨大

小虎新车推荐员
2026-09-06 12:07:44
CHINA GT发生重大撞车起火事故,“救援人员因害怕,放下灭火器后逃离”,对手弃赛冲入火海救人

CHINA GT发生重大撞车起火事故,“救援人员因害怕,放下灭火器后逃离”,对手弃赛冲入火海救人

澎湃新闻
2026-09-06 16:54:03
6:00,全球晃动了一下

6:00,全球晃动了一下

新浪财经
2026-09-07 07:20:34
iPhone 18系列定价曝光:标准版5999元起,Pro版9999元起,Pro Max版10999元起

iPhone 18系列定价曝光:标准版5999元起,Pro版9999元起,Pro Max版10999元起

鲁中晨报
2026-09-06 15:47:03
案例:湖北一女学生和82岁老人同吃同住,老人直接认其做干女儿

案例:湖北一女学生和82岁老人同吃同住,老人直接认其做干女儿

红豆讲堂
2025-01-27 09:30:03
“一晚上拉了十几次,人都休克了”,就因为吃了这盘炒饭,孩子被下了病危通知,品牌深夜道歉!

“一晚上拉了十几次,人都休克了”,就因为吃了这盘炒饭,孩子被下了病危通知,品牌深夜道歉!

金融界
2026-09-07 16:33:40
官方通报“江西一女孩赴港看演唱会全家低保被取消”

官方通报“江西一女孩赴港看演唱会全家低保被取消”

界面新闻
2026-09-07 17:24:33
台媒:蔡正元入狱最新情况曝光,洪秀柱等人前来探望

台媒:蔡正元入狱最新情况曝光,洪秀柱等人前来探望

环球网资讯
2026-09-07 14:32:08
我供未婚妻读博,她毕业后嫁给了别人,6年后她来我公司面试

我供未婚妻读博,她毕业后嫁给了别人,6年后她来我公司面试

千秋文化
2026-09-05 20:12:08
皮蛋被发现!研究发现:吃越多,或对动脉硬化患者的血管有大影响?

皮蛋被发现!研究发现:吃越多,或对动脉硬化患者的血管有大影响?

周哥一影视
2026-09-06 15:19:23
成龙确诊ADHD,粉丝心疼极了

成龙确诊ADHD,粉丝心疼极了

大爱三湘
2026-09-05 22:24:19
继甲醛白菜又一蔬菜中招,长期食用致癌,11.8吨被查6家企业遭殃

继甲醛白菜又一蔬菜中招,长期食用致癌,11.8吨被查6家企业遭殃

大鱼简科
2026-09-07 11:30:02
拉夫罗夫:他们又想打仗了!

拉夫罗夫:他们又想打仗了!

环球时报国际
2026-09-07 11:34:49
2026-09-07 20:39:00
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
151869文章数 2654657关注度
往期回顾 全部

科技要闻

华为Mate XT 2起售价19999元 9月12日开售

头条要闻

百万豪车1年折损40万 二手车商:帕梅降10万仍没卖出去

头条要闻

百万豪车1年折损40万 二手车商:帕梅降10万仍没卖出去

体育要闻

中超争冠形势:成都蓉城下轮打平夺冠

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

25.99万元起 凯迪拉克全新XT5 PHEV正式上市

态度原创

房产
亲子
教育
数码
军事航空

房产要闻

10万人吃瓜!三亚这个楼盘,法拍网上卖疯了!

亲子要闻

彩虹糖想要,彩虹糖得到#彩虹糖裴曼伊#对抗路母女#母女日常#搞笑

教育要闻

这6所211高校保研率低得离谱,高分学生报考容易吃亏!

数码要闻

新款华为MatePad Air屏幕亮度最高达2000nits 升级OLED

军事要闻

媒体:中美战区司令会晤释放的信号 台湾要听懂

无障碍浏览 进入关怀版