网易首页 > 网易号 > 正文 申请入驻

大模型蒸馏要完了?Anthropic Fable5.1 给Claude思考过程"上锁"

0
分享至

刚刚,Anthropic发布了Fable 5.1。


值得注意的一个细节是,随着新版本上线,Anthropic也对Claude API的一个关键机制进行了调整。

在最新文档描述中,Fable 5.1改变了Messages API处理思考块的方式。

对于新API账户,开发者不能再在多轮对话中随意编辑思考块周围的上下文,包括消息、工具和系统提示。

所谓“思考块”,是Claude在生成最终答案之前产生的推理步骤。

在API中,这些内容会以“思考块”的形式返回给用户。在多轮对话中,API用户通常会在下一轮请求中,将这些思考块与系统提示、工具以及此前的消息一起发送回来,让Claude获得完整的对话上下文。

现在,Anthropic开始对这些内容进行一致性验证。

对于受到影响的Fable 5.1账户,如果此前思考块之前的系统提示、工具或者消息被修改,API将返回错误。API会验证思考块是否与产生它时所使用的相同系统提示、工具和消息一起被发送回来。

如果开发者确实需要修改此前的上下文,可以选择使用“非严格”模式。此时请求仍然可以继续,但受到影响的思考块会从模型看到的内容中删除。模型将在看不到这些此前思考内容的情况下继续响应,API返回结果也会告知开发者哪些思考块被删除。

Anthropic解释,这一改变主要针对AI蒸馏。

改变对话早期轮次,是非法蒸馏活动中常见的技术。其目的之一,是提取高级模型的能力,尤其是模型的思考过程,并将这些能力用于训练另一个未经授权的模型。

Anthropic称,这类蒸馏通常可以工业规模进行,使用数千个虚假账户。


此前,Anthropic已经对Claude的思考块进行加密,以防止这类行为。

但又发现,如果攻击者先修改思考块之前的对话内容,就可能让Claude重新解密并输出此前的推理。

这样训练出来的系统,可以继承原本不具备的能力,同时却不一定继承原模型针对网络攻击、武器开发等广泛滥用风险建立的安全保障措施。

因此,这次API调整的目标,就是让这种蒸馏活动更加困难。

Anthropic表示,这项措施建立在现有反蒸馏措施之上,包括增强的蒸馏分类器,以及限制从更高级模型向具有较弱安全保障的低能力模型转移会话或推理。

不过,这一变化也可能影响正常的API集成。

Anthropic特别提到,一些会在对话进行到一半时重写早期轮次的集成可能需要调整,例如上下文压缩和注入系统提醒等场景。

Anthropic同时指出,保持思考块与原始上下文一致也有额外好处:API可以更频繁地重复利用缓存提示,从而降低成本和响应时间。

这项更新目前并不是对所有账户立即生效。

在Fable 5.1上,更新适用于2026年8月31日12:00:00 UTC之后创建的新API账户。

具体包括这一日期之后创建的新Claude Platform组织、Amazon Bedrock账户、Google Cloud Vertex AI项目以及Microsoft Azure Foundry项目。

Anthropic采取的是分阶段执行方式,从新账户开始,因为这些账户中观察到的蒸馏相关滥用浓度最高。

现有账户目前不会受到影响,这也给开发者留下时间,让测试框架和API集成适应新的处理方式。

但Anthropic已经明确表示,未来模型也将采用这一机制,并最终适用于所有用户。

需要注意的是,Claude Code、Claude Cowork、Claude.ai以及通过第三方产品使用Claude的用户不受此次变化影响;Fable 5.1之外的模型也不受影响。

从API层面看,这次变化并不是简单地禁止用户获取思考内容,而是改变了一个关键规则。

如果你想让模型继续看到此前的思考块,那么此前产生这些思考的系统提示、工具和消息上下文就必须保持一致。

Anthropic希望通过这一机制,堵住利用修改历史对话来获取和批量提取模型推理能力的路径。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
消息称奥迪中国分治方案基本敲定,上汽奥迪只留AUDI

消息称奥迪中国分治方案基本敲定,上汽奥迪只留AUDI

IT之家
2026-09-07 19:36:57
媒体人:一支中超强队已把丹尼尔-拉莫斯纳入候选主帅名单中

媒体人:一支中超强队已把丹尼尔-拉莫斯纳入候选主帅名单中

懂球帝
2026-09-07 19:02:07
何超琼访谈曝家族猛料:四妻共侍一夫仅是表象,揭秘不婚不育真相

何超琼访谈曝家族猛料:四妻共侍一夫仅是表象,揭秘不婚不育真相

史之韵
2026-09-07 19:26:36
英格兰两大亿元先生干架 切尔西新援被踢倒后怒推+狂喷阿森纳铁腰

英格兰两大亿元先生干架 切尔西新援被踢倒后怒推+狂喷阿森纳铁腰

我爱英超
2026-09-07 02:16:11
郑钦文美网碰世界第8斯瓦泰克,里巴放弃全部奖金,赢了或直冲前100输了也能补积分

郑钦文美网碰世界第8斯瓦泰克,里巴放弃全部奖金,赢了或直冲前100输了也能补积分

隐于山海
2026-09-07 10:07:16
捷克出局多人泣不成声!末节27秒领先5分都输 埃约丢制胜两罚+绝杀背锅

捷克出局多人泣不成声!末节27秒领先5分都输 埃约丢制胜两罚+绝杀背锅

颜小白的篮球梦
2026-09-07 08:55:13
CCTV5直播!U23国足首秀即生死战,张玉宁搭档王钰栋,安东尼奥带队争首胜

CCTV5直播!U23国足首秀即生死战,张玉宁搭档王钰栋,安东尼奥带队争首胜

大卫的篮球故事
2026-09-07 17:33:59
9月7日俄乌最新:莱曼大捷,包围圈变成了解放区

9月7日俄乌最新:莱曼大捷,包围圈变成了解放区

西楼饮月
2026-09-07 22:23:32
白瞎了李富真的颜值,儿子长得还是像保镖前夫,肥头肥脑成绩很好

白瞎了李富真的颜值,儿子长得还是像保镖前夫,肥头肥脑成绩很好

照见古今
2026-09-07 17:56:09
路边碰到一群精神小妹,我想知道他们的出路在哪

路边碰到一群精神小妹,我想知道他们的出路在哪

皮蛋儿电影
2026-09-05 16:09:44
死在加州路边的阿里总监:最残忍的不是没钱,是枕边人不如网友亲

死在加州路边的阿里总监:最残忍的不是没钱,是枕边人不如网友亲

趣味萌宠的日常
2026-09-07 15:12:42
余承东发布后飙英语后哽咽,很久没搞过国外发布会了!官媒:华为时隔6年再次发布高性能芯片!

余承东发布后飙英语后哽咽,很久没搞过国外发布会了!官媒:华为时隔6年再次发布高性能芯片!

大白聊IT
2026-09-08 00:13:05
从一盘散沙到铁板一块,也门政府军快速大变样!

从一盘散沙到铁板一块,也门政府军快速大变样!

寰球经纬所
2026-09-07 14:55:21
一路走好!不到72小时,4位名人接连离世,最小37岁,最大94岁

一路走好!不到72小时,4位名人接连离世,最小37岁,最大94岁

强大气场的注视
2026-09-07 12:48:46
高速通行费10月1日改革落地!车主出行费用迎来新变化

高速通行费10月1日改革落地!车主出行费用迎来新变化

娱乐圈的笔娱君
2026-09-05 06:06:20
菲律宾干了件还没一个国家干过的事,他们直接宣布,国家进入紧急状态,不是因为战争,也不是因为天灾,而是因为整个国家的油箱

菲律宾干了件还没一个国家干过的事,他们直接宣布,国家进入紧急状态,不是因为战争,也不是因为天灾,而是因为整个国家的油箱

回京历史梦
2026-09-07 17:48:10
郭德纲唱红歌事件后续:处罚通报公布,罚款数额巨大,以后真要管住嘴了

郭德纲唱红歌事件后续:处罚通报公布,罚款数额巨大,以后真要管住嘴了

李晚书
2026-09-07 19:10:28
几十个国产操作系统打不过Windows:操作系统越多,战斗力越弱

几十个国产操作系统打不过Windows:操作系统越多,战斗力越弱

王新喜
2026-09-07 13:49:07
大衣哥朱之文被投诉了!投诉理由是穿地主装唱红歌《我的祖国》,网友:先普及一下什么是爱国服装

大衣哥朱之文被投诉了!投诉理由是穿地主装唱红歌《我的祖国》,网友:先普及一下什么是爱国服装

火山詩话
2026-09-07 07:30:23
郑钦文,今晚再战老对手斯瓦泰克!

郑钦文,今晚再战老对手斯瓦泰克!

环球网资讯
2026-09-07 22:48:20
2026-09-08 00:52:49
AI先锋官 incentive-icons
AI先锋官
AIGC大模型及应用精选与评测
661文章数 104关注度
往期回顾 全部

科技要闻

小米澎程N90 Max定价26.99万元

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

体育要闻

压哨避开CBA选秀规则?NBL香港金牛队已为男篮国手王俊杰报备合同

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

智能可变大空间SUV 小米澎程系列车型上市 20.99万起

态度原创

教育
数码
游戏
艺术
公开课

教育要闻

最新!清华附、十一学校大动作!

数码要闻

Xiaomi 18 Fold发布:10999元起 首发玄戒O3芯片

鸣潮费大劲捏出来的清冷师尊,咋就变成了哦齁剑仙?

艺术要闻

Denisenko Olga:俄罗斯当代女画家

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版