网易首页 > 网易号 > 正文 申请入驻

安全拦截反而成了漏洞:Claude旗舰被降级后更容易被攻破

0
分享至

你问Claude Opus 5.5一个稍微沾点安全边的问题,回复可能来自另一个模型。界面弹出提示,答案被标上Opus 4.8,而Anthropic最新的旗舰模型会在这一轮对话剩下的时间里一直停在旧模型上。


这是Anthropic加的一道保险:一个在网络安全上强到这个程度的模型,不能反过来把Claude变成安全风险。分类器标记请求,Opus 4.8接手。问题出在Anthropic自己的系统卡里——在提示注入测试中,大多数被攻破的攻击,走的正是这个兜底模型,而不是旗舰。

切换是自动的,你没有投票权

Claude Opus 5.5于9月22日发布,Anthropic给它的网络能力评级接近Claude Mythos 5.1——后者被放在可信访问计划后面。所以每个请求都要过一道筛:一个探针读取模型的内部激活,一个更轻的分类器复核可疑项,再由训练过的分类器做最终判断。如果判定你在要攻击性网络工作,Opus 5.5被拦下,在Anthropic自家应用里(包括claude.ai和Claude Code),改由Opus 4.8回答。

Anthropic说大多数网络安全任务都会被这样改道,系统卡把界线写得很直白:在自己源码里找漏洞可以,从编译后的二进制里挖漏洞不行。安全代码审查、威胁建模、修补已知问题、告警分诊都留在旗舰上;恶意软件分析和漏洞利用验证这类工作会触发拦截。

切换还会粘住。一旦触发,模型选择器在整轮对话里都停在Opus 4.8,之后每条回复都来自旧模型,直到你手动切回去。在API上,兜底是可选开启的,线索是响应里的模型名。这是安静的那部分,而它比听起来更重要。

Anthropic自己的测试发现,兜底才是弱点

最清楚的数字在Claude Sonnet 5.5的系统卡里——它和Opus 5.5降级到Opus 4.8的方式一样,降级到Sonnet 5。Anthropic用Gray Swan的自适应攻击工具Shade跑了40个编码场景,每个200次尝试。攻击者把指令藏在智能体的工作区里,试图让它擦盘或删文件。

这些破坏性指令正是网络分类器要抓的东西,所以它们触发了拦截。转折就在这里:攻击本身把请求从新模型拽到了旧模型上,而旧模型好对付得多。

四分之一(25%)的请求在触发网络拦截后落到了Sonnet 5上,其中12.01%被攻破。而Sonnet 5.5自己作答时,5901次请求里只有4次被攻破。Anthropic自己的结论很直白:该模型大多数攻击成功,来自兜底模型。

如果这听起来像Sonnet的问题,10月7日发布的Claude Haiku 5.5系统卡说的是另一回事。Haiku 5.5根本没有兜底,被拦的请求直接停住。在Anthropic的编码注入测试里,它比Sonnet 5.5、Opus 5.5和Fable 5.1都更难被劫持,Anthropic称兜底机制解释了这一差距——那些模型大多数成功的攻击,来自兜底模型作答的请求。在那项测试里,没有后备方案的便宜模型赢过了带兜底的旗舰。

你不需要输入危险内容也会触发

分类器不只看你的提示词。Anthropic说它们还会检查模型替你读的东西,包括记忆、附件、连接器和网页搜索结果。一条被搜索带进来的安全公告,或仓库里埋的恶意指令,都可能让一个你打字时看着很无聊的问题翻车。如果你把Claude当智能体跑在真实代码上,记住这一点,因为Shade攻击正是这样进来的。

你有一个真正的开关。在Claude应用里,设置→能力,有一个叫“消息被标记时切换模型”的开关,Claude Code在配置→模型与输出下保留同一个开关。关掉它,被标记的请求会暂停,而不是落到Opus 4.8上。你可以改写、重试,或自己选模型。

如果你的安全工作是防御性的,Anthropic的网络验证计划是另一扇门。它10月6日扩展为三档,面向防御者、红队和一小批关键基础设施团队,通过验证的用户在Opus 5.5上享受更宽松的分类器。个人只能申请第一档,且必须在付费计划上。

兜底到底多容易被劫持

另一面也该听听。25%和12.01%那组数字来自Sonnet 5.5的系统卡,那里的兜底是Sonnet 5,所以应把它们当作最清楚的公开示例,而不是Opus 4.8的实测值。在Gray Swan与英国AI安全研究所合作的第二个外部基准上,兜底几乎没被记上一笔:777次由兜底模型作答的运行中只有1次被攻破,Anthropic说兜底在那里没有降低鲁棒性。

这个开关也确实在做它被造出来要做的事。在Anthropic自己的网络场景测试里,没有验证访问权限的Opus 5.5在全部50次试验中都被拦下,公司把会触发兜底的范围描述为一小批更高风险的请求。日常编码不在这个名单上。弱点不是开关存在,而是故意触发它的攻击者会被送到更容易被骗的那个模型上。

日常聊天我会让开关开着,最坏情况不过是Opus 4.8给出一个更弱的答案。但如果你把Claude指向不是你写的内容——仓库、收件箱、网页——就关掉它。被标记的请求应该停下来等你,而不是悄悄滑到Anthropic自家测试发现更容易被劫持的模型上。安全网是真的,只是它不是你想让攻击者落脚的地方。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
第三例跟腱撕裂!西蒙斯重伤赛季报销后续:将领到全额350万薪水

第三例跟腱撕裂!西蒙斯重伤赛季报销后续:将领到全额350万薪水

罗说NBA
2026-10-19 07:36:07
重磅:问界与懂车帝重启合作!三部门联合调查此前刚开始

重磅:问界与懂车帝重启合作!三部门联合调查此前刚开始

南财社V
2026-10-19 15:58:37
不管你信不信,女人不管高矮,只要腰细屁股大,身材就不会差

不管你信不信,女人不管高矮,只要腰细屁股大,身材就不会差

皓皓情感说
2026-10-19 08:35:51
这样的汉奸,应该开除国籍

这样的汉奸,应该开除国籍

燕梳楼频道
2026-10-19 12:30:38
李泽钜、李泽楷现身慈山寺上香、李嘉诚缺席,引发外界高度关注

李泽钜、李泽楷现身慈山寺上香、李嘉诚缺席,引发外界高度关注

一盅情怀
2026-10-19 15:26:58
万米高空乘客突发疾病,上海医生空地联动紧急施救

万米高空乘客突发疾病,上海医生空地联动紧急施救

澎湃新闻
2026-10-19 20:46:28
难以置信!网传武汉明星见面会安保岗,有人炫耀日结4小时80元,还包一份工作餐,网友:来回通勤3小时,卷得我一个农村人都看不下去了

难以置信!网传武汉明星见面会安保岗,有人炫耀日结4小时80元,还包一份工作餐,网友:来回通勤3小时,卷得我一个农村人都看不下去了

火山詩话
2026-10-19 10:42:39
留学生披旭日旗事件升级!军媒怒批,学校通报,他将迎来三大恶果

留学生披旭日旗事件升级!军媒怒批,学校通报,他将迎来三大恶果

荒野老五
2026-10-19 15:11:12
造纸厂储罐发现3具女尸,法医:三人为亲姐妹,生前骨盆均被破坏

造纸厂储罐发现3具女尸,法医:三人为亲姐妹,生前骨盆均被破坏

罪案洞察者
2025-10-28 15:33:21
忍了18个月,究竟是什么让泽连斯基决定公开对抗特朗普?

忍了18个月,究竟是什么让泽连斯基决定公开对抗特朗普?

澎湃新闻
2026-10-19 15:28:34
台风逼近!大雨!大降温!江苏天气乱套了

台风逼近!大雨!大降温!江苏天气乱套了

无锡eTV全媒体
2026-10-20 03:50:53
乌镇偶遇戚薇李承铉,她们的大女儿Lucky长得真好看,小的时候像妈妈,现在像爸爸

乌镇偶遇戚薇李承铉,她们的大女儿Lucky长得真好看,小的时候像妈妈,现在像爸爸

手工制作阿歼
2026-10-19 16:33:09
7中2+在场输4分!北京男篮花1.5亿引进的顶级国手控卫,真废了?

7中2+在场输4分!北京男篮花1.5亿引进的顶级国手控卫,真废了?

弄月公子
2026-10-19 08:26:48
王某收到一份来自“购物平台”的赠礼U盘,没想到一插入电脑,单位内网被境外间谍入侵,涉密文件被窃取

王某收到一份来自“购物平台”的赠礼U盘,没想到一插入电脑,单位内网被境外间谍入侵,涉密文件被窃取

南方都市报
2026-10-19 10:53:38
流水席式发生关系?网上发布地址,陌生人可随意进房

流水席式发生关系?网上发布地址,陌生人可随意进房

北京郑律师
2026-10-19 17:23:16
莫大课堂披旭日旗事件后续:在俄中国留学生集体请愿,校方当天就决定遣返

莫大课堂披旭日旗事件后续:在俄中国留学生集体请愿,校方当天就决定遣返

小徐讲八卦
2026-10-18 07:58:24
90度崴脚!库里伤情正式出炉,考验科尔的时刻到了

90度崴脚!库里伤情正式出炉,考验科尔的时刻到了

微评体育圈
2026-10-19 16:55:32
脸都被打肿!皇马弃帅彻底被低估!同期表现碾压穆里尼奥

脸都被打肿!皇马弃帅彻底被低估!同期表现碾压穆里尼奥

澜归序
2026-10-19 09:10:42
又一电诈头目落网!坑害国人超27亿,杀人不眨眼,全网呼吁查赵薇

又一电诈头目落网!坑害国人超27亿,杀人不眨眼,全网呼吁查赵薇

泪满过眼
2026-10-10 07:24:15
汇源集团被资本耍的团团转,7.5个亿就把“汇源”商标弄丢了,曾经一个商标入股就估值24个亿

汇源集团被资本耍的团团转,7.5个亿就把“汇源”商标弄丢了,曾经一个商标入股就估值24个亿

起点财经
2026-10-19 22:14:01
2026-10-20 07:16:49
我是一个养虾人
我是一个养虾人
有态度网友ytd
176文章数 92关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

中国留学生披旭日旗事件最新进展:目前已被遣返

头条要闻

中国留学生披旭日旗事件最新进展:目前已被遣返

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

手机
数码
时尚
本地
军事航空

手机要闻

2026年三季度印度智能手机市场遇冷,iPhone销量下滑20%

数码要闻

苹果官宣下周举行特别活动,有望推出OLED MacBook Pro/iPad mini 8等机型

中国第一位女指挥:97岁,不退休,不退场

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

军事要闻

泽连斯基:若乌“被要求”举行战时选举 他将竞选连任

无障碍浏览 进入关怀版