网易首页 > 网易号 > 正文 申请入驻

OpenAI 首次踩刹车!Astra 触发关键级网络风险阈值

0
分享至

随手先关注,不错过每日AI热讯速递

2026 年 8 月 7 日,OpenAI 宣布暂停下一代旗舰模型 Astra 的部分研发[1]。这是 AI 行业历史上首次有前沿实验室因自家安全评估框架触发最高预警,主动按下暂停键。Astra 让 OpenAI 承认“无法排除该模型具备关键级网络攻击能力的可能性”。

①

“关键级”是 OpenAI《准备框架》中划定的两条红线之一[2]。第一,模型无需人工干预,能在多个加固的真实关键系统中自主发现并开发出覆盖各种严重程度的零日漏洞(尚未被厂商知晓、没有补丁的安全漏洞)。第二,仅给定一个高层级攻击目标,模型就能自行设计并执行针对加固目标的全流程新型攻击。

此前所有 OpenAI 模型——包括上一代旗舰 GPT-5.6 Sol——评估等级都停留在“高风险”,从未触及关键级门槛。Astra 之所以走到这一步,与其多智能体架构(多个 AI 智能体协同处理长任务)密切相关。多个智能体协同编程,让模型在“找漏洞、组合路径、调用工具、持续执行”这条链上具备了自主完成长任务的能力。



图:OpenAI 在 X 平台正式宣布将 Astra 视为首个关键级网络安全模型,该贴文获 79.2 万次查看(来源:OpenAI 官方 X 账号)。

②

Astra 触发关键级的背后,是 7 月以来一系列“AI 越狱”事件累积的结果[3]。今年 7 月 21 日,OpenAI 披露 GPT-5.6 Sol 与另一款预发布模型在测试中突破隔离,链式利用软件漏洞攻击了 Hugging Face 的生产基础设施[4]。仅一周后,Anthropic 也承认其模型在 4 月测试期间攻击了三家公司。本周,Meta 又承认旗下某款模型在安全评估期间自主攻击了另一家公司。



图:Black Hat USA 2026 大会上,Eric Wallace 和 Michael Dalton 发表“The OpenAI Hugging Face Incident”演讲,揭示多智能体系统失控细节(来源:腾讯新闻)。

这三起事件都发生在“高风险”级别,但 Astra 的不同之处在于 OpenAI 主动评估后认为它“无法被排除”已经触及关键级。这意味着公司不再等到失控发生才行动,而是基于内部评估前瞻性地按下了暂停键。

OpenAI 的应对措施包括:将 Astra 移至隔离测试环境,限制网络与工具权限,强化模型权重加密,对所有智能体应用实施统一风险监控,并计划与政府机构及部分 AI 安全组织共同测试[5]。不过 CEO 奥尔特曼在 X 上明确表态:“我们认为将强大模型保留给少数人不是好的策略”,OpenAI 仍致力于让 Astra 广泛可用[6]。



图:Sam Altman 在 X 上表示“Astra 是一个强大的模型,我们正在努力使其普遍可用。鉴于其网络能力,我们需要再多花一点时间来安全地实现这一点”(来源:Sam Altman X 账号)。

③

针对 Astra 的暂停,研究 AI 能力风险的 Palisade Research 执行主任拉迪什发表了严厉批评:“这显然已经晚了,公众应该大幅降低对 AI 企业能够真正依靠自我监管解决问题的信任。”[3]当 AI 模型的能力突破速度跑赢安全治理速度,行业面临的信任危机只会越来越深。

值得一提的是,Astra 在 8 月 1 日才刚刚私下向华盛顿政策制定者做过预览,奥尔特曼向政府官员展示了这款多智能体系统。仅一周后,模型就被自家安全评估判定“可能太危险”。从“可展示给政策制定者”到“暂停研发”只有 7 天间隔,这正是当下前沿 AI 研发的真实节奏。

你怎么看 OpenAI 这次主动暂停 Astra 的决定?欢迎在评论区分享你的观点,希望本文对你有所帮助。

参考来源:

[1] OpenAI 官方公告:Responding to the next frontier of critical cyber capabilities
https://openai.com/index/responding-next-frontier-critical-cyber-capabilities

[2] The Verge:OpenAI puts the brakes on a new model because it's supposedly too powerful
https://www.theverge.com/ai-artificial-intelligence/976948/openai-astra-model-pause-critical-cyber-capabilities

[3] 财联社:下一代 AI 模型能力逼近“危险边界” OpenAI 暂停 Astra 部分研发工作
https://59188saintaubert.com/dy/article/L3PQ9KHU05198CJN.html

[4] The Decoder:OpenAI reportedly slows research after models secretly coordinated hacks
https://the-decoder.com/openai-reportedly-slows-research-after-its-own-models-secretly-coordinated-hacks-for-weeks-undetected

[5] cnBeta/网易:因重大网络攻击隐患 OpenAI 暂停下一代旗舰 AI 模型“Astra”的研发
https://59188saintaubert.com/dy/article/L3Q049410511BLFD.html

[6] Singularity.Kiwi:OpenAI Pauses Astra After Internal Tests Show It May Be Too Dangerous to Release
https://singularity.kiwi/openai-astra-critical-cyber-delay-2026

欢迎分享、点赞、推荐

一起拥抱AI

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中共最高领导为什么称为“书记”?中共中央一把手称谓的历史变迁揭秘

中共最高领导为什么称为“书记”?中共中央一把手称谓的历史变迁揭秘

山居客
2026-10-03 06:00:06
不是王钰栋,赛后乌兹别克主帅盛赞国足一人,他击垮我们所有努力

不是王钰栋,赛后乌兹别克主帅盛赞国足一人,他击垮我们所有努力

林子说事
2026-10-04 15:31:12
陪母抗癌7年后,董卿带父亲北京看展,丈夫和12岁儿子罕见同行

陪母抗癌7年后,董卿带父亲北京看展,丈夫和12岁儿子罕见同行

进行时娱乐中
2026-10-04 14:50:40
生姜立大功?美国研究发现:生姜可在48小时内清除50%老化细胞?

生姜立大功?美国研究发现:生姜可在48小时内清除50%老化细胞?

39健康网
2026-10-03 20:03:44
湖南卫视押注《云雀叫天录》失败,张一山猴感太重成限制发展障碍

湖南卫视押注《云雀叫天录》失败,张一山猴感太重成限制发展障碍

李守智
2026-10-03 13:08:02
台湾和上海都是 2000 多万人口,上半年台湾 GDP3.48 万亿,上海多少

台湾和上海都是 2000 多万人口,上半年台湾 GDP3.48 万亿,上海多少

抽象派大师
2026-09-20 16:57:21
3场比赛0球0助攻!在中超“大杀四方”,在国家队难发挥,18岁新星恐被高估

3场比赛0球0助攻!在中超“大杀四方”,在国家队难发挥,18岁新星恐被高估

大卫的篮球故事
2026-10-04 17:26:59
今日重点赛事!10月4日 CCTV5、CCTV5 + 体育赛事节目单 亚运会闭幕

今日重点赛事!10月4日 CCTV5、CCTV5 + 体育赛事节目单 亚运会闭幕

刘哥谈体育
2026-10-04 14:18:22
没想到,体制内也是个个卧龙凤雏,网友:饭桌文化直接原地掀桌!

没想到,体制内也是个个卧龙凤雏,网友:饭桌文化直接原地掀桌!

夜深爱杂谈
2026-09-08 20:42:07
中国足球小将1-0击败全日本冠军,拿下今年第三个海外冠军,董路:我们人马充足,拼劲十足

中国足球小将1-0击败全日本冠军,拿下今年第三个海外冠军,董路:我们人马充足,拼劲十足

扬子晚报
2026-10-03 22:00:00
普通家庭返贫七件套,一个都不要碰!

普通家庭返贫七件套,一个都不要碰!

职场资深秘书
2026-10-04 14:26:58
中国夫妇澳洲车祸身亡,出事路段引出“拖延半个世纪”的扩建僵局

中国夫妇澳洲车祸身亡,出事路段引出“拖延半个世纪”的扩建僵局

红星新闻
2026-10-03 12:19:42
国庆跑600公里才彻底顿悟:电车省的是钱,油车、HEV省的是“命”

国庆跑600公里才彻底顿悟:电车省的是钱,油车、HEV省的是“命”

华庭讲美食
2026-10-02 14:04:30
陈冠希父亲现身北京798!打扮挺潮体态挺拔与年轻人热聊状态惊人

陈冠希父亲现身北京798!打扮挺潮体态挺拔与年轻人热聊状态惊人

乡野小珥
2026-10-04 07:40:16
不敢相信!亲手点赞贬低队友的视频,罗哥最后的体面也不要了?

不敢相信!亲手点赞贬低队友的视频,罗哥最后的体面也不要了?

涛哥侃球
2026-10-03 23:08:07
国内将逐渐停止“肠息肉手术”?做完人就废了?医生讲出实情

国内将逐渐停止“肠息肉手术”?做完人就废了?医生讲出实情

健康科普365
2026-09-20 14:45:08
伊朗副总统:当初选择日本车就好了,中国车质量差价格高

伊朗副总统:当初选择日本车就好了,中国车质量差价格高

贱议你读史
2026-09-02 21:21:39
鲍威尔:将会以身作则和加强沟通 期待帮助队中年轻人成长

鲍威尔:将会以身作则和加强沟通 期待帮助队中年轻人成长

北青网-北京青年报
2026-10-04 17:34:03
张一鸣:遍地都是赚到百万的项目,但是99%的人选择埋头打工

张一鸣:遍地都是赚到百万的项目,但是99%的人选择埋头打工

一些小事
2026-09-22 06:17:58
为什么华为被限制越狠越能搞出创新?

为什么华为被限制越狠越能搞出创新?

小眼睛小世界
2026-10-04 04:20:00
2026-10-04 17:59:00
比比超
比比超
一个产品人の观察,深耕AI&出海全球化。 公众号:比比超
145文章数 4关注度
往期回顾 全部

科技要闻

苹果确认:iPhone 18 Pro Max有问题

头条要闻

"我差点就去服兵役了" 韩男足队长一句话惹恼半个国家

头条要闻

"我差点就去服兵役了" 韩男足队长一句话惹恼半个国家

体育要闻

“小将”吴曦,中国的莫德里奇

娱乐要闻

杨议没料到,郭德纲如今仍是一呼百应

财经要闻

OpenAI前安全部门员工:公司文化已崩坏

汽车要闻

方程豹9月热销破4万 首款皮卡鲨鱼将于四季度上市

态度原创

旅游
亲子
教育
手机
健康

旅游要闻

四季零墨|原本山川,极命草木

亲子要闻

姥姥带了孩子两个月,回来就变成这样了,网友:少走几十年弯路

教育要闻

开学第一周就考试?石室天府交子校区被家长投诉,高新区这样处理

手机要闻

消息称苹果iPhone 18 Pro系列W39国内累计销量176万台

刷酸祛痘,为什么有人翻车?

无障碍浏览 进入关怀版