网易首页 > 网易号 > 正文 申请入驻

大规模封号来了!OpenAI开打反蒸馏战

0
分享至


新智元报道


OpenAI宣战了!

就在今天凌晨,OpenAI发布了一份重磅宣言——《打击对抗性蒸馏》。


这份报告,表面上是技术分享,实际上简直是一篇宣战书。

OpenAI毫不掩饰地挑明:今天夏天以来,为了打击白嫖的账号,我们一周最多封几万个号,甚至直接按网络连锅端!

现在,OpenAI已经呼吁美国国会出台法案,加强出口管制。

在报告中,OpenAI也全面曝光了,自家的系统究竟是如何识别、瓦解那些协同蒸馏攻击的。

准备好,接下来,OpenAI还会有一大波封号潮。

每周数万账号灰飞烟灭

这一次,OpenAI 动真格了。

OpenAI自曝:今年以来,ChatGPT发起多次大规模封号活动。

他们发现,「偷师者」往往会通过海量账号矩阵、分布式请求,来拼凑模型的底层逻辑。

对此,OpenAI毫不手软,一旦抓到,会把整个账号网络一锅端!

这些「协同作案」的账号群,OpenAI每周能封上几千,甚至几万个!

尤其今年夏天,封号率明显飙升。

他们的目标,就是让偷师者拿到的料更少、成本更高、速度更慢。

请注意两个关键词:「整个账号网络」与「数万个账号」。

也就是说,只要你的账号矩阵中有一个节点暴露,与之关联的其他账号也会被「连坐」,数据全部化为乌有。


OpenAI表示,蒸馏这个大家心照不宣的灰色地带行为,绝不是简单的侵权而已,而是会导致严重的安全危机!

因为在蒸馏的过程中,模型强大的能力被抄走,OpenAI耗巨资打造的安全护栏,却没了。

原本有着护栏的模型,绝不会帮忙写木马病毒、提供生化武器配方。

但当它被蒸馏到没有底线的开源模型中,就会成为黑客和恐怖分子的武器。

为此,OpenAI才展开了那一场残酷的大清洗。

在内部测试中,OpenAI 派出了6 个 AI 攻击模型。

它们会轮番使用各种刁钻的黑盒攻击,从防御系统那里「套话」。

而防守方(比如 GPT-6.2 系列)需要自己判断:你这个问题,是在正常问我,还是在恶意白嫖我的思路?

核心机密「思维链」,必须死守

如果你现在去调用 OpenAI 的 API,只能看到它想让你看到的东西——摘要。

偷师者们最眼红的,是CoT。这些未加掩饰的、最原始的思维链里,藏着答案里没写出来的高阶逻辑和泛化能力,可以说是最宝贵的财富。

但现在,真实的CoT已经被OpenAI藏起来了。

为了证明这一点,OpenAI做了个对照实验。

他们用同一个「学生模型」的基础底座,分别让它们学习两种数据。

其中,A组学习的是原始的、完整的「精确推理痕迹」。

B组学习的是用户平时在前端能看到的「推理摘要」和最终答案。

结果令人果然不出所料。

在经过了包含Astra级别教师模型轨迹的监督微调(SFT)之后,学了原始思维链的A组,在网络安全基准测试上的得分普遍碾压了B组!



而当两组模型都再经过一轮轻量级的强化学习后,在给予最大推理算力预算时,A组依然保持领先。仅仅在算力预算较小的时候,B组才勉强反超。

这个实验证实:精确的推理痕迹,能够教会学生模型「举一反三」的能力!

哪怕提取的数据仅仅用于合规的防御性任务,学生模型也能从中领悟出,适用于攻击性任务的通用技能。

可以说,前沿模型的底牌,就在于它解题时那「脑海中的一念」。

无论如何,OpenAI都要把这个东西上锁。

OpenAI布下四层反蒸馏防线

所以,OpenAI具体是怎么做的?

在报告中,他们首次公开了「反蒸馏之术」。

这是一套将对抗性测试、模型训练、分类器和API级别保护相结合的四层网络,OpenAI进行了深度的架构改造。


第一层:从模型训练底层「防偷师」


OpenAI通过对抗性训练,让模型自己学会识别出,哪些请求是在试图「提取推理过程」。

一旦识别出恶意的请求,模型会果断拒绝披露CoT。

但是呢,它同时又能精准区别出正常用户的请求。

为什么它能做出精准区分?

因为它的训练数据,来源于内部红蓝对抗和外部安全研究人员的攻击日志。

第二层:密不透风的分类器

此外,OpenAI还部署了异常强大的「输出分类器」。


最绝的是,他们连工具调用也没放过。

这是因为,模型有时会把推理过程偷偷写在工具调用的参数里,而不在最终答案中显示。

而输出分类器,可以直接将这些拦截!

第三层:让开发者心跳加速的 API 级封锁


这是对整个开发者生态最致命的一招。


在最新发布的 GPT-6.2 Astra 和 GPT-6.2 Sol 中,OpenAI 将模型的推理过程与产生它的「对话历史」进行了硬绑定。

如果你试图修改前面的一句提示词,想看看模型怎么改变思路,抱歉,API 会直接把后面的所有推理过程作废!

因此,靠微调上下文来反复挤牙膏的套路,彻底失效了。

第四层:跨模型与跨会话隔离

具体来说,就是防护弱的老模型,被严禁去读取新模型的推理记录。

同时,OpenAI 在 9 月份还刚刚堵住了一个大漏洞——

以前,黑客会把一段加密的思维链强行搬进另一个新对话,哄骗模型自己把加密内容「念出来」,甚至能露出别人的加密推理。

现在,这条路也被堵上了。

在对抗 6 个 AI 模型的轮番轰炸下,他们交出了一份可怕的成绩单。


在模拟真实生产环境的测试中,当攻击模型试图去套取「上一轮对话」的受保护推理时,旧防线下的 GPT-6 Astra 被攻破的平均成功率为 54.0%。


但在更新了新防线的 GPT-6.2 Astra 面前,这个数字被压制到了惊人的 0.2%!

而试图套取「本轮对话」受保护推理的成功率,也从 22.9% 骤降至 0.9%。

目前,GPT-6.2 Sol 也已经全量上线了这套防护,旧版的 GPT-6 Astra 也正在紧急打补丁。


对于被抓到的攻击手段,OpenAI 还会将其转化为回归测试,重新喂给模型训练。

甚至,他们准备将这套秘籍分享给其他公司,全行业联动封杀。

而且,这还没完——OpenAI预告:「很快,我们会分享出更多破坏行动的细节。」

或许,会有更多公司被挂在名单上。

最后,OpenAI 公开向美国政府喊话,表态全力支持三大法案:

《芯片安全法案》

《人工智能监管法案》

《MATCH法案》

一方面,OpenAI想通过硬件出口管制,限制对手获得前沿模型所需的芯片。

一方面,他们要用「反蒸馏防御」,让对手无法调用已有模型「偷师」。

看来,是时候从底层算法和创新上杀出一条血路了。

参考资料:

https://openai.com/index/combatting-adversarial-distillation/

编辑:Aeneas 大卫


声明:包含AI生成内容

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
张维为:美国越来越多的年轻人接受社会主义

张维为:美国越来越多的年轻人接受社会主义

看看新闻Knews
2026-11-20 21:36:04
1-3!C罗破门又错失点球,利雅得胜利强强对话被逆转,6连胜终结

1-3!C罗破门又错失点球,利雅得胜利强强对话被逆转,6连胜终结

我的护球最独特
2026-11-21 03:30:16
国际法院裁定缅甸犯有“种族灭绝罪”,中国籍法官薛捍勤投票支持了缅甸,外交部:薛捍勤法官根据其专业知识发表意见,是其履职尽责的表现

国际法院裁定缅甸犯有“种族灭绝罪”,中国籍法官薛捍勤投票支持了缅甸,外交部:薛捍勤法官根据其专业知识发表意见,是其履职尽责的表现

政知新媒体
2026-11-20 15:43:32
阿里巴巴因隐瞒与黄仁勋外遇对象业务关系遭股东起诉

阿里巴巴因隐瞒与黄仁勋外遇对象业务关系遭股东起诉

互联网大观
2026-11-20 13:49:45
上海男子车祸后CT显示无大碍,回家后收到医生电话:快回来,AI意外揪出无症状肠癌;网友直呼太神奇:这才是AI存在的意义!

上海男子车祸后CT显示无大碍,回家后收到医生电话:快回来,AI意外揪出无症状肠癌;网友直呼太神奇:这才是AI存在的意义!

犀利辣椒
2026-11-20 20:08:23
高市早苗对台湾问题躲闪作答,日媒担忧:关系改善仍遥遥无期

高市早苗对台湾问题躲闪作答,日媒担忧:关系改善仍遥遥无期

环球网资讯
2026-11-21 07:06:48
没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

没想到,峰会结束仅1天,中国就因三个“土特产”在全球火出圈

墨兰史书
2026-11-20 22:10:04
紧迫、重要、根本,日本方面、高市早苗能听明白这三点吗?

紧迫、重要、根本,日本方面、高市早苗能听明白这三点吗?

新民周刊
2026-11-21 08:21:53
前10月全国税收收入增长6%,其中个税收入增长22.9%

前10月全国税收收入增长6%,其中个税收入增长22.9%

风向观察
2026-11-20 18:17:34
零跑的“面子”,被几箱啤酒压破了

零跑的“面子”,被几箱啤酒压破了

金通社
2026-11-20 08:49:15
特朗普:中俄美元首会晤“史无前例”“意义重大”

特朗普:中俄美元首会晤“史无前例”“意义重大”

新华社
2026-11-21 05:00:06
一场6-0,让国足迎利好!西班牙跌至第2,国足末轮赢球,有望出线

一场6-0,让国足迎利好!西班牙跌至第2,国足末轮赢球,有望出线

杨仔述
2026-11-21 03:46:24
妻子不愿办身份证,江西男子2021年才得知,她是越狱27年的人贩子

妻子不愿办身份证,江西男子2021年才得知,她是越狱27年的人贩子

夜夜思奇语
2026-11-20 15:00:26
墨西哥总统辛鲍姆搭乘南航CZ8031返程,抵墨后发文致谢机组

墨西哥总统辛鲍姆搭乘南航CZ8031返程,抵墨后发文致谢机组

读创
2026-11-20 20:25:07
太真实!广东网友晒11月20日朋友圈:股、金、房价齐跌,有人崩溃直呼“要跳楼”

太真实!广东网友晒11月20日朋友圈:股、金、房价齐跌,有人崩溃直呼“要跳楼”

火山詩话
2026-11-20 20:54:10
继黄仁勋、陈立武之后,轮到AMD总裁苏姿丰了?

继黄仁勋、陈立武之后,轮到AMD总裁苏姿丰了?

穿透
2026-11-20 18:44:35
特朗普回美下飞机前,在空军一号上与人激烈争吵!

特朗普回美下飞机前,在空军一号上与人激烈争吵!

胜研集
2026-11-21 01:33:17
36岁奥斯卡影后当众掀衣秀假体:我是完整C杯

36岁奥斯卡影后当众掀衣秀假体:我是完整C杯

时光慢旅人
2026-11-20 11:03:53
北京国安出局!足协杯6年首遭零封,主场8年不胜海港,6纪录告破

北京国安出局!足协杯6年首遭零封,主场8年不胜海港,6纪录告破

奥拜尔
2026-11-20 21:31:51
杯赛历史首败!上海惨负遭青岛终结14连胜 拉塞尔16+7+5约克24+8

杯赛历史首败!上海惨负遭青岛终结14连胜 拉塞尔16+7+5约克24+8

醉卧浮生
2026-11-20 21:34:55
2026-11-21 09:15:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16730文章数 67241关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

多国领导人感谢中国 特朗普连用2个"amazing"点赞深圳

头条要闻

多国领导人感谢中国 特朗普连用2个"amazing"点赞深圳

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

数码
家居
亲子
房产
健康

数码要闻

英特尔自曝DDR5早期研发内幕:内存条插上就死机,失败才是常态

家居要闻

2026建博会(广州) 公装联探展交流活动

亲子要闻

人类幼崽对警察的恐惧!网友:早知道你是警察我就不让你当我爸爸

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

医生眼里"很伤腰"的椅子,很多人天天坐

无障碍浏览 进入关怀版