网易首页 > 网易号 > 正文 申请入驻

Claude Code翻车:最强调AI安全的公司,为什么最先失去了信任?

0
分享至


就在昨天,工信部网络安全威胁和漏洞信息共享平台发布风险提示,美国Anthropic公司开发的AI编程工具Claude Code存在“安全后门隐患”,相关版本内置监控机制,可在未经用户同意的情况下向远程服务器回传用户地域、身份标识等敏感信息。


对于普通用户来说,这或许只是又一起软件隐私争议。但对于全球AI行业而言,这件事之所以引发巨大震动,并不只是因为它涉及数据收集,而是出问题的偏偏是Anthropic。

过去几年,这家公司一直以“AI安全”的代表自居。它批评先进模型能力扩散带来的风险,呼吁加强监管,强调模型安全治理,并借此与Open AI等竞争对手形成差异化定位。然而如今,正是这家最强调安全的公司,被发现通过隐蔽方式对部分用户环境进行识别和标记。

这种反差,让整个事件变得格外耐人寻味。


一场从开发者社区开始的风暴

这次事件最早并不是由监管部门发现。7月1日,海外开发者在对Claude Code进行逆向分析时发现,部分版本中存在针对特定环境的识别逻辑。随后相关代码在开发者社区迅速传播。



根据公开披露的信息,这套机制并不只是检测用户IP地址,而是会主动读取本地系统环境信息,例如检查设备时区是否设置为“Asia/Shanghai”等中国时区,同时分析开发环境中的部分域名配置、网络环境特征等信息,以判断用户是否来自中国企业或中国开发机构。

更关键的是,这一过程并不会向用户发出任何提示——没有弹窗提醒、没有授权确认、也没有在设置页面进行公开说明。识别结果会以特殊方式嵌入正常请求中回传服务器,而绝大多数用户甚至不会意识到这一过程已经发生。

随后,Anthropic工程师承认相关代码确实存在,但解释称其目的是识别违规代理访问以及模型蒸馏行为,并表示相关机制已经开始移除。

但对于很多开发者而言,问题已经不再是Anthropic最终上传了什么数据。而是另一件更严重的事情:一家拥有极高系统权限的AI Agent,已经证明自己有能力在用户毫不知情的情况下对用户进行识别、标记,并将结果回传给服务提供商。

对于普通聊天机器人来说,这或许只是一次隐私争议。但Claude Code并不是普通聊天机器人。作为一款AI编程工具,它天然拥有比传统软件更深入的系统权限。它需要读取项目代码、分析文件结构、访问开发环境,甚至能够调用本地命令帮助开发者完成任务。

换句话说,当这样一款工具开始突破用户知情与授权的边界时,使用者在软件背后的开发者面前,完全属于裸奔状态,没有人能够知道Claude Code拿了你什么信息,拿去做什么。


一个被忽略的背景:模型蒸馏战争

如果把Claude Code事件单独拿出来看,很容易把它理解成一次隐私事故。但实际上,这件事还有一个重要背景。

就在不久前,Anthropic在向美国政府官员和国会工作人员提交的政策材料中,公开指控阿里巴巴通义团队通过大量账号对Claude进行大规模模型蒸馏。在Anthropic的描述中,这些账号持续调用Claude接口,通过收集输入输出结果训练自身模型,从而实现能力复制。

过去两年,大模型行业竞争逻辑已经发生变化。2023年行业讨论的是谁的模型更聪明;2024年讨论的是谁的推理能力更强;而到了2026年,越来越多头部AI公司开始担心另一件事——如何防止自己的模型被复制。

原因并不复杂。与传统软件不同,大模型的一部分能力是可以通过蒸馏技术进行迁移的。只要能够持续调用先进模型,并积累足够多的数据样本,就有机会训练出能力相近的新模型。而这种行为在技术和商业层面都没有问题。

从这个角度看,Anthropic加强访问监测、识别异常调用行为,并非完全没有逻辑。问题在于,它最终选择的方式触碰到了用户信任边界。为了防止模型被蒸馏,它开始识别用户。为了保护自身安全,它开始弱化用户知情权。而这恰恰构成了这次争议最核心的矛盾。


最强调安全的公司,为何先踩中了红线?

Anthropic过去几年最大的品牌资产,并不是Claude模型本身。而是“安全”。

从Constitutional AI,到Responsible Scaling Policy,再到一系列前沿模型治理框架,Anthropic始终试图向外界证明,自己是行业里最谨慎、最负责任的那家公司。

它反复强调先进AI风险、强调监管的重要性……这些观点帮助Anthropic获得了大量资本支持,也塑造了其与Open AI截然不同的市场形象。

但这次事件暴露出一个有趣的现象。Anthropic口中的“安全”,和用户理解的“安全”,或许并不是同一件事。对于Anthropic来说,安全意味着模型不会被盗、能力不会扩散、系统不会被滥用。而对于用户来说,安全意味着数据不会被收集、行为不会被监控、身份不会被标记。


当这两种安全发生冲突时,Anthropic最终选择保护自己的模型。这也是为什么此次事件引发如此强烈反弹。因为开发者发现,当企业要求别人遵守更高标准时,它自己未必愿意接受同样标准的约束。


阿里禁用Claude Code,释放了什么信号?

当一家企业一边高举“安全”旗帜,一边在用户不知情的情况下部署隐蔽监测机制时,它所损害的已经不只是产品声誉,而是整个“可信AI”的基础。

也正因如此,在事件曝光之后,国内企业的反应格外迅速。根据公开信息,阿里巴巴已经将Claude Code列入高风险软件名单,禁止员工从7月10日起在所有工作中使用Anthropic公司的Claude Code。有消息称美团、京东等公司此前已通知程序员“收敛Claude等外部AI模型调用”,如有需求必须单独申请。而在去年11月,腾讯就已经将Claude Code移出大模型选择池。

这些企业的反应,未必是针对Anthropic一家公司的特殊处理,而更像是在给整个AI行业划下一条新的红线。在传统软件时代,人们担心的是软件有没有漏洞;而在AI Agent时代,人们更担心的是软件背后的开发者是否值得信任。

过去几年,中美科技竞争主要围绕芯片、算力和先进制造展开。而如今,这种竞争开始延伸到模型、开发工具和开发者生态。

当美国AI公司主动识别中国开发者环境,而中国企业将其排除出内部研发体系时,一个新的趋势正在逐渐形成:全球AI产业链正在沿着不同技术体系、不同规则体系和不同信任体系加速分化。

它越来越像一场攻防战。Anthropic担心模型被蒸馏,中国企业担心工具被监控。双方都在不断强化自己的安全边界。而代价则是开放和信任正在被不断压缩。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“蛋白吃得多,病就生得少”,4道高蛋白家常菜,吃出硬朗好身板

“蛋白吃得多,病就生得少”,4道高蛋白家常菜,吃出硬朗好身板

花小厨
2026-10-20 14:35:08
1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

帝哥说史
2026-10-11 16:14:43
1995年白宫,22岁实习生莱温斯基撩起外衣露出丁字裤,就凭这个举动,她承担了整整20年的代价

1995年白宫,22岁实习生莱温斯基撩起外衣露出丁字裤,就凭这个举动,她承担了整整20年的代价

磊子讲史
2026-10-19 14:51:51
樊振东回归引爆大震荡,国际乒联正式回应举报信

樊振东回归引爆大震荡,国际乒联正式回应举报信

乒乓网国球汇
2026-10-20 00:51:47
他曾任空军第一副司令员,913事件后遭审查,遗体冷冻12年才安葬

他曾任空军第一副司令员,913事件后遭审查,遗体冷冻12年才安葬

历史甄有趣
2026-10-20 08:50:16
深圳工资最高的十个打工人,人均年薪超1100万,全部来自这两家公司

深圳工资最高的十个打工人,人均年薪超1100万,全部来自这两家公司

时尚的弄潮
2026-10-18 14:39:22
特朗普回应被泽连斯基批“站在历史错误一边”:该换人代表乌克兰了

特朗普回应被泽连斯基批“站在历史错误一边”:该换人代表乌克兰了

澎湃新闻
2026-10-20 09:57:20
贾一凡/张殊贤世界排名突然被移除,26岁张殊贤退役传闻并非空穴来风

贾一凡/张殊贤世界排名突然被移除,26岁张殊贤退役传闻并非空穴来风

米修体育
2026-10-20 14:28:18
七旬老人不知情被开通华为影视会员自动扣费近四年,手机非华为 华为仅退两年费用

七旬老人不知情被开通华为影视会员自动扣费近四年,手机非华为 华为仅退两年费用

信网
2026-10-19 15:27:08
800亿电网龙头,跌停

800亿电网龙头,跌停

第一财经资讯
2026-10-20 13:28:39
一张张停暖申请表 正在倒逼一场巨大变革,北方供热行业迎来转折点

一张张停暖申请表 正在倒逼一场巨大变革,北方供热行业迎来转折点

音乐时光的娱乐
2026-10-12 12:28:25
在美国破防的袁老师

在美国破防的袁老师

求实处
2026-10-19 00:09:46
单节狂输15分!豪门对决一边倒,广东男篮或2连败,北京队2人杀疯

单节狂输15分!豪门对决一边倒,广东男篮或2连败,北京队2人杀疯

大秦壁虎白话体育
2026-10-20 20:33:28
宇树科技:人形机器人尚处于商业化早期,存在估值回归的投资风险

宇树科技:人形机器人尚处于商业化早期,存在估值回归的投资风险

澎湃新闻
2026-10-20 19:50:26
事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

事态已经全面升级!赖清德有可能成为新中国历史上,唯一一位在任台湾地区领导人中出现重大变故的人物

人生录
2026-09-11 00:05:21
昔日万众追捧的女神,如今奔走小商演,难道就真的跌落神坛?

昔日万众追捧的女神,如今奔走小商演,难道就真的跌落神坛?

动物奇奇怪怪
2026-10-20 02:34:25
中国首个植入式听觉神经接口产品获批,适用2-6岁患者

中国首个植入式听觉神经接口产品获批,适用2-6岁患者

澎湃新闻
2026-10-20 19:58:32
大势已定!再过一年,退休人员必须直面的3个养老真相

大势已定!再过一年,退休人员必须直面的3个养老真相

匹夫来搞笑
2026-10-18 16:02:58
舒淇家宴炸出半个华语圈:褪去星光,老友闲谈最动人

舒淇家宴炸出半个华语圈:褪去星光,老友闲谈最动人

做一个合格的吃瓜群众
2026-10-20 11:30:08
抵达台湾不久,59岁毛人凤随即暴亡,蒋介石:他糊涂,很不懂事!

抵达台湾不久,59岁毛人凤随即暴亡,蒋介石:他糊涂,很不懂事!

史笔似尘钩
2026-01-05 19:59:03
2026-10-20 21:12:49
科工力量 incentive-icons
科工力量
观察者网工业科技专栏
315文章数 555关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

21岁驴友遇难 死前表达"饿了"并解开了手机锁屏密码

头条要闻

21岁驴友遇难 死前表达"饿了"并解开了手机锁屏密码

体育要闻

30天30队·奇才:三状元一榜眼 35胜?

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

手机
亲子
游戏
数码
本地

手机要闻

消息称苹果iPhone Duo折痕区域较软,手指滑动会有“形变”

亲子要闻

高个子宝妈产后腹壁修复|找回孕前完美腰臀比

还以为是GTA6!新"汽车模拟器"规格太高 小庙装不下

数码要闻

消息称英伟达RTX 6060可能推迟至2029年发布,游戏性能不及PS6

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

无障碍浏览 进入关怀版