网易首页 > 网易号 > 正文 申请入驻

安全拦截反而成了漏洞:Claude旗舰被降级后更容易被攻破

0
分享至

你问Claude Opus 5.5一个稍微沾点安全边的问题,回复可能来自另一个模型。界面弹出提示,答案被标上Opus 4.8,而Anthropic最新的旗舰模型会在这一轮对话剩下的时间里一直停在旧模型上。


这是Anthropic加的一道保险:一个在网络安全上强到这个程度的模型,不能反过来把Claude变成安全风险。分类器标记请求,Opus 4.8接手。问题出在Anthropic自己的系统卡里——在提示注入测试中,大多数被攻破的攻击,走的正是这个兜底模型,而不是旗舰。

切换是自动的,你没有投票权

Claude Opus 5.5于9月22日发布,Anthropic给它的网络能力评级接近Claude Mythos 5.1——后者被放在可信访问计划后面。所以每个请求都要过一道筛:一个探针读取模型的内部激活,一个更轻的分类器复核可疑项,再由训练过的分类器做最终判断。如果判定你在要攻击性网络工作,Opus 5.5被拦下,在Anthropic自家应用里(包括claude.ai和Claude Code),改由Opus 4.8回答。

Anthropic说大多数网络安全任务都会被这样改道,系统卡把界线写得很直白:在自己源码里找漏洞可以,从编译后的二进制里挖漏洞不行。安全代码审查、威胁建模、修补已知问题、告警分诊都留在旗舰上;恶意软件分析和漏洞利用验证这类工作会触发拦截。

切换还会粘住。一旦触发,模型选择器在整轮对话里都停在Opus 4.8,之后每条回复都来自旧模型,直到你手动切回去。在API上,兜底是可选开启的,线索是响应里的模型名。这是安静的那部分,而它比听起来更重要。

Anthropic自己的测试发现,兜底才是弱点

最清楚的数字在Claude Sonnet 5.5的系统卡里——它和Opus 5.5降级到Opus 4.8的方式一样,降级到Sonnet 5。Anthropic用Gray Swan的自适应攻击工具Shade跑了40个编码场景,每个200次尝试。攻击者把指令藏在智能体的工作区里,试图让它擦盘或删文件。

这些破坏性指令正是网络分类器要抓的东西,所以它们触发了拦截。转折就在这里:攻击本身把请求从新模型拽到了旧模型上,而旧模型好对付得多。

四分之一(25%)的请求在触发网络拦截后落到了Sonnet 5上,其中12.01%被攻破。而Sonnet 5.5自己作答时,5901次请求里只有4次被攻破。Anthropic自己的结论很直白:该模型大多数攻击成功,来自兜底模型。

如果这听起来像Sonnet的问题,10月7日发布的Claude Haiku 5.5系统卡说的是另一回事。Haiku 5.5根本没有兜底,被拦的请求直接停住。在Anthropic的编码注入测试里,它比Sonnet 5.5、Opus 5.5和Fable 5.1都更难被劫持,Anthropic称兜底机制解释了这一差距——那些模型大多数成功的攻击,来自兜底模型作答的请求。在那项测试里,没有后备方案的便宜模型赢过了带兜底的旗舰。

你不需要输入危险内容也会触发

分类器不只看你的提示词。Anthropic说它们还会检查模型替你读的东西,包括记忆、附件、连接器和网页搜索结果。一条被搜索带进来的安全公告,或仓库里埋的恶意指令,都可能让一个你打字时看着很无聊的问题翻车。如果你把Claude当智能体跑在真实代码上,记住这一点,因为Shade攻击正是这样进来的。

你有一个真正的开关。在Claude应用里,设置→能力,有一个叫“消息被标记时切换模型”的开关,Claude Code在配置→模型与输出下保留同一个开关。关掉它,被标记的请求会暂停,而不是落到Opus 4.8上。你可以改写、重试,或自己选模型。

如果你的安全工作是防御性的,Anthropic的网络验证计划是另一扇门。它10月6日扩展为三档,面向防御者、红队和一小批关键基础设施团队,通过验证的用户在Opus 5.5上享受更宽松的分类器。个人只能申请第一档,且必须在付费计划上。

兜底到底多容易被劫持

另一面也该听听。25%和12.01%那组数字来自Sonnet 5.5的系统卡,那里的兜底是Sonnet 5,所以应把它们当作最清楚的公开示例,而不是Opus 4.8的实测值。在Gray Swan与英国AI安全研究所合作的第二个外部基准上,兜底几乎没被记上一笔:777次由兜底模型作答的运行中只有1次被攻破,Anthropic说兜底在那里没有降低鲁棒性。

这个开关也确实在做它被造出来要做的事。在Anthropic自己的网络场景测试里,没有验证访问权限的Opus 5.5在全部50次试验中都被拦下,公司把会触发兜底的范围描述为一小批更高风险的请求。日常编码不在这个名单上。弱点不是开关存在,而是故意触发它的攻击者会被送到更容易被骗的那个模型上。

日常聊天我会让开关开着,最坏情况不过是Opus 4.8给出一个更弱的答案。但如果你把Claude指向不是你写的内容——仓库、收件箱、网页——就关掉它。被标记的请求应该停下来等你,而不是悄悄滑到Anthropic自家测试发现更容易被劫持的模型上。安全网是真的,只是它不是你想让攻击者落脚的地方。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
网传“退休金比打工人工资还高”,评论区炸锅了

网传“退休金比打工人工资还高”,评论区炸锅了

墨言执笔
2026-10-13 05:47:41
纪委已明确!2026年将“重点查处”4类人群,一个都别想跑!

纪委已明确!2026年将“重点查处”4类人群,一个都别想跑!

职场资深秘书
2026-10-18 17:09:19
微信资金池接近万亿!可这笔巨款,腾讯一分钱都不能随便花

微信资金池接近万亿!可这笔巨款,腾讯一分钱都不能随便花

青史卷中人
2026-10-17 00:43:22
麻豆停运,原来是为了入驻抖音?

麻豆停运,原来是为了入驻抖音?

吃瓜党二号头目
2026-10-19 19:15:36
日本要急坏了?中方罕见出招,高市无法招架,日媒称最坏结果已现

日本要急坏了?中方罕见出招,高市无法招架,日媒称最坏结果已现

荷兰豆爱健康
2026-10-19 07:34:05
上海的富婆王玲,和大16岁高曙光很恩爱,把二婚生活过成顶配

上海的富婆王玲,和大16岁高曙光很恩爱,把二婚生活过成顶配

情感大头说说
2026-10-17 04:30:28
国安官方:法比奥腓骨远端骨折,正进一步评估是否存在其他损伤

国安官方:法比奥腓骨远端骨折,正进一步评估是否存在其他损伤

懂球帝
2026-10-19 17:21:05
广交会新品首发专区火热 小而精新品撬动全球市场

广交会新品首发专区火热 小而精新品撬动全球市场

北青网-北京青年报
2026-10-19 15:29:05
或创造人类联赛历史!成都蓉城面临失冠 本周川军应请回老塔马麦罗

或创造人类联赛历史!成都蓉城面临失冠 本周川军应请回老塔马麦罗

劲爆体坛
2026-10-19 07:07:04
人肉盾牌的铁证:哈马斯计划在加沙难民营引爆炸弹,制造混乱掩护恐怖分子逃脱

人肉盾牌的铁证:哈马斯计划在加沙难民营引爆炸弹,制造混乱掩护恐怖分子逃脱

老王说正义
2026-10-20 00:48:04
1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

帝哥说史
2026-10-11 16:14:43
男子花3500找了一个小姐,又觉得不过瘾,让小姐再喊个闺蜜过来“一起玩”

男子花3500找了一个小姐,又觉得不过瘾,让小姐再喊个闺蜜过来“一起玩”

张晓磊
2026-10-18 11:58:47
沙特才反应过来:和自己死磕到底的胡塞武装,私下与美国谈好了

沙特才反应过来:和自己死磕到底的胡塞武装,私下与美国谈好了

金戈远望
2026-10-19 23:29:41
梅根素颜出镜卖毛衣,粉丝不买账:自恋狂

梅根素颜出镜卖毛衣,粉丝不买账:自恋狂

红袖说事
2026-10-14 08:35:45
一定要大量存钱!2026接下来五年,中国家庭集体“换锚”:房子不再是底牌,现金才是

一定要大量存钱!2026接下来五年,中国家庭集体“换锚”:房子不再是底牌,现金才是

毯叔盘钱
2026-10-19 20:17:21
贵阳新市西路摊位没人租,问题不在租金,在“算不过账”

贵阳新市西路摊位没人租,问题不在租金,在“算不过账”

坠入二次元的海洋
2026-10-19 19:02:17
宋丹丹:和英达离婚后,所有朋友都选择他、远离我,如今我却活成了最大的赢家

宋丹丹:和英达离婚后,所有朋友都选择他、远离我,如今我却活成了最大的赢家

财叔
2026-10-19 21:39:56
14亿老百姓的疑问:大数据全覆盖的时代,为什么医院的检查结果,永远不能通用?

14亿老百姓的疑问:大数据全覆盖的时代,为什么医院的检查结果,永远不能通用?

青苹果sht
2026-10-10 06:01:13
皇马电视台炮轰塞维利亚:对阵巴萨时你们可是唯唯诺诺的

皇马电视台炮轰塞维利亚:对阵巴萨时你们可是唯唯诺诺的

kio鱼
2026-10-20 00:45:13
北控丢掉主场,赛后三人被炮轰,离开广东男篮后再度迷失

北控丢掉主场,赛后三人被炮轰,离开广东男篮后再度迷失

南海浪花
2026-10-20 02:01:41
2026-10-20 03:36:49
我是一个养虾人
我是一个养虾人
有态度网友ytd
173文章数 92关注度
往期回顾 全部

科技要闻

王晟:近千亿资金涌入后 具身智能开始退烧

头条要闻

中国留学生披旭日旗事件最新进展:目前已被遣返

头条要闻

中国留学生披旭日旗事件最新进展:目前已被遣返

体育要闻

从NBA退役10年后,他真去警局上班了

娱乐要闻

奚梦瑶回应重返维密:还是很开心的

财经要闻

黄奇帆之子往事:从广微系到魏桥的跳跃

汽车要闻

不知道二代海鸥多好玩? 上赛道跑两圈 很过瘾的

态度原创

手机
艺术
游戏
本地
公开课

手机要闻

2026年三季度印度智能手机市场遇冷,iPhone销量下滑20%

艺术要闻

俄罗斯90后摄影师比莉娅娃英这组写真,看完我直接跪了!最后一张绝了!

《龙之信条2:黑暗觉者》评测:天若有情天亦老"/> 主站 商城 论坛 自运营 登录 注册 简体中文 简体中文 English 《龙之信条2:黑暗觉...

本地新闻

因新荣记出圈,这座浙东小城才是吃货天堂

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版