网易首页 > 网易号 > 正文 申请入驻

OpenAI新模型“Astra”:核心技术“循环深度”可实现超强推理,但允许不再完整输出“思维链”

0
分享至

OpenAI即将推出的新模型“Astra”正在AI研究圈引发广泛关注与争议——它在性能上可能带来自GPT-4以来最大的一次飞跃,但其背后的新型推理技术却同时引发了对AI安全监控能力下降的担忧。

据科技媒体The Information 9月2日报道,Astra搭载了一项创新技术,核心在于突破模型“思考”复杂问题的上限。部分研究人员认为,Astra在编码和计算机使用能力上的提升,可能堪比OpenAI 2023年发布GPT-4时带来的性能飞跃,远超去年夏天GPT-5发布时的表现。这对于依赖AI生产力提升来支撑数据中心大规模建设投资的整个行业而言,无疑是一个积极信号。

然而,这一技术突破也带来了不容忽视的隐患。新技术允许模型在不完整输出“思维链”的情况下完成深度推理,这意味着研究人员可能无法像以往那样有效监控模型的推理过程,从而削弱现有的安全审查机制。目前,OpenAI正采取措施确保Astra的思维链仍保持可见,但业界对这一权衡的长期走向仍存在分歧。

性能突破:新推理技术或复现GPT-4级飞跃

Astra的核心技术突破与“循环深度”(recurrent depth)及“循环变换器”(loop transformers)等概念密切相关。

据The Information报道,该技术通过将问题反复传递至模型数学运算的各个“层”中进行处理,再生成答案中的下一个词,从而使模型能够在不显著增加参数规模的情况下,展现出远超自身体量的推理能力——其效果相当于一个规模大得多的模型。

部分研究人员认为,Astra凭借更强的编码与计算机使用能力,其性能提升幅度可能与2023年GPT-4发布时的跨越式进步相当,远超去年夏天GPT-5上线时相对平稳的市场反应。

这一进展对整个AI产业链具有重要意义。当前全球数据中心的大规模建设,其底层逻辑正是押注于AI能力的持续提升将带动生产力增长,进而转化为更高的商业收益。若Astra的性能表现达到预期,将为这一投资逻辑提供有力支撑。

值得注意的是,这一技术并非全新概念。AI研究先驱Jürgen Schmidhuber在社交平台X上指出,“循环深度”的核心思路实质上早已见于他2015年的论文《On Learning to Think》(arXiv:1511.09249)。

他表示,该论文中的控制网络C本质上是一个提示工程师,通过学习查询独立的神经世界模型来进行抽象推理,生成的提示和回答是内部自生成的向量序列,无需以自然语言呈现。

安全隐患:思维链监控机制面临挑战

新技术在带来性能提升的同时,也对现有的AI安全监控框架构成了潜在冲击。

报道称,目前,主流AI模型在处理复杂问题时,通常会以文字形式输出其推理过程,即“思维链”(chain of thought)。这一机制不仅提升了模型的可解释性,也是研究人员监控模型行为、防范异常操作的重要手段。

据The Information报道,思维链监控正是OpenAI在今年7月Hugging Face黑客事件发生后,提出的防止类似安全事故重演的主要解决方案之一。

然而,Astra所采用的新推理技术,在模型深度“思考”时可能不会完整输出推理步骤,而是在模型内部“静默”完成运算。这意味着,模型越依赖这一新技术,其推理过程对外部监控者而言就越不透明。

对此,OpenAI目前正采取措施加以平衡。据悉,该公司正指导模型减少问题在运算层中的循环次数,以确保Astra的思维链仍保持一定程度的可见性——循环次数越少,模型“静默思考”的空间就越小。

各大实验室已在跟进,长期监控方案仍待解

这一技术趋势的影响或将远不止于OpenAI一家。据The Information报道,上述新型推理技术已成为各大主要AI实验室内部讨论的热点话题,Anthropic、谷歌等机构采用类似技术路线的可能性不容低估。

多位研究人员指出,思维链监控本就不会是AI行为监控的终极解决方案。随着模型能力的持续演进,模型以文字形式输出思维过程这一特征,在很大程度上只是当前训练方式的副产品。

随着模型开发者探索新的优化方向和架构设计,模型自发输出思维链的倾向可能会逐渐减弱,研究人员届时将不得不开发新的监控手段。

报道指出,当前的核心问题在于:在性能竞争日趋激烈的压力下,各大AI开发商是否会为追求更强的推理能力而主动放弃现有的安全保障措施?这一问题的答案,将在很大程度上决定下一阶段AI安全治理的走向。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
彻底摊牌了?一个欠9亿一个骗13.9亿,董卿被爆猛料,原来她和王丽坤同样困境

彻底摊牌了?一个欠9亿一个骗13.9亿,董卿被爆猛料,原来她和王丽坤同样困境

她时尚丫
2026-08-07 18:55:34
全款买了300多万的婚房,老公却只写他自己的名字,我没跟他吵,转身就刷卡买下了他对门的楼王,他脸都绿了

全款买了300多万的婚房,老公却只写他自己的名字,我没跟他吵,转身就刷卡买下了他对门的楼王,他脸都绿了

晓艾故事汇
2026-09-07 08:03:17
俄乌战场捅出大篓子!没打过仗的中国,却亮出了最缺的拦截神器

俄乌战场捅出大篓子!没打过仗的中国,却亮出了最缺的拦截神器

旧史新谭
2026-09-05 23:26:21
星宇内部罚单被撤回!人力资源总监身份遭质疑,网友戏称自罚三杯

星宇内部罚单被撤回!人力资源总监身份遭质疑,网友戏称自罚三杯

亿通电子游戏
2026-09-07 14:27:38
男人不会无缘无故阳痿!医生:男人硬不起来,离不开这4个原因

男人不会无缘无故阳痿!医生:男人硬不起来,离不开这4个原因

医学原创故事会
2026-09-05 16:46:41
幼儿园园长直言:入园不哭的孩子,多半出自这5种家庭,对照看看

幼儿园园长直言:入园不哭的孩子,多半出自这5种家庭,对照看看

小书虫妈妈
2026-09-05 17:35:32
足球报:国足可能征调更多年轻球员

足球报:国足可能征调更多年轻球员

懂球帝
2026-09-07 13:18:08
热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

热搜上令人窒息的“母女吃牛肉面一幕”,精神穷人可怕的三观

蝴蝶花雨话教育
2026-08-18 09:57:05
毛主席为何拒绝给董存瑞题词?得知缘由后,众人钦佩:伟人高明

毛主席为何拒绝给董存瑞题词?得知缘由后,众人钦佩:伟人高明

文史道
2025-07-03 20:21:14
李在明知道错了?韩紧急发声!宁得罪自己人,也不敢重蹈日本覆辙

李在明知道错了?韩紧急发声!宁得罪自己人,也不敢重蹈日本覆辙

观锐器
2026-09-07 15:04:08
郑钦文今晚冲击美网女单8强,官方预测胜率仅12%,8次交手前世界第一斯瓦泰克1胜7负

郑钦文今晚冲击美网女单8强,官方预测胜率仅12%,8次交手前世界第一斯瓦泰克1胜7负

极目新闻
2026-09-07 11:13:33
许家印没欠2.4万亿

许家印没欠2.4万亿

子业一说财经
2026-09-07 13:37:58
景甜前男友孙宇晨又一重磅身份曝光!利伯兰代总理,此国常住人口仅7人

景甜前男友孙宇晨又一重磅身份曝光!利伯兰代总理,此国常住人口仅7人

小徐讲八卦
2026-09-07 08:20:34
“蓝白合”再次宣告破局,国民党“九合一”选举笃定提前败选

“蓝白合”再次宣告破局,国民党“九合一”选举笃定提前败选

叶老四
2026-09-06 22:36:25
付磊妻子千字长文实锤爆料:早上在家抱孩子,转头开车接曾梦琪穿情侣装

付磊妻子千字长文实锤爆料:早上在家抱孩子,转头开车接曾梦琪穿情侣装

江山挥笔
2026-09-07 16:49:40
31岁女律师倒在合伙人岗位上:四年拼来的头衔,四个字就写完了

31岁女律师倒在合伙人岗位上:四年拼来的头衔,四个字就写完了

天天热点见闻
2026-09-06 09:06:44
国米3比2逆转那不勒斯,劳塔罗登顶队史意甲进球第三人

国米3比2逆转那不勒斯,劳塔罗登顶队史意甲进球第三人

带你逛体坛
2026-09-07 17:20:08
女网爆大冷,东南亚一姐2-0淘汰世界第2 8强出炉,郑钦文获喜讯

女网爆大冷,东南亚一姐2-0淘汰世界第2 8强出炉,郑钦文获喜讯

小七说篮球
2026-06-19 16:12:04
律师爆料Melody态度差 变脸「好了你可以走了」! 经纪公司回应「沟通出问题」

律师爆料Melody态度差 变脸「好了你可以走了」! 经纪公司回应「沟通出问题」

ETtoday星光云
2026-09-07 14:55:08
76岁的万科创始人王石,最近彻底成了全网焦点。

76岁的万科创始人王石,最近彻底成了全网焦点。

梦录的西方史话
2026-04-23 14:36:39
2026-09-07 17:31:00
华尔街见闻官方 incentive-icons
华尔街见闻官方
中国领先的金融商业信息提供商
151869文章数 2654654关注度
往期回顾 全部

科技要闻

华为Mate XT 2起售价19999元 9月12日开售

头条要闻

美财长谈加拿大反制美:小小腊肠犬惹牧羊犬 微不足道

头条要闻

美财长谈加拿大反制美:小小腊肠犬惹牧羊犬 微不足道

体育要闻

中超争冠形势:成都蓉城下轮打平夺冠

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

8家中央金融企业获增资 释放什么信号?

汽车要闻

带升降立标MPV 岚图梦想家9预售价42.99万起

态度原创

家居
房产
艺术
数码
健康

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

10万人吃瓜!三亚这个楼盘,法拍网上卖疯了!

艺术要闻

色彩很美,简约风景油画!

数码要闻

仅290g能塞进背包!磐镭WO5 3500U主机开售:锐龙5 3500U加持 到手价1359元

同样是脑梗,为何康复结局大不同?

无障碍浏览 进入关怀版