网易首页 > 网易号 > 正文 申请入驻

Claude Code翻车:最强调AI安全的公司,为什么最先失去了信任?

0
分享至


就在昨天,工信部网络安全威胁和漏洞信息共享平台发布风险提示,美国Anthropic公司开发的AI编程工具Claude Code存在“安全后门隐患”,相关版本内置监控机制,可在未经用户同意的情况下向远程服务器回传用户地域、身份标识等敏感信息。


对于普通用户来说,这或许只是又一起软件隐私争议。但对于全球AI行业而言,这件事之所以引发巨大震动,并不只是因为它涉及数据收集,而是出问题的偏偏是Anthropic。

过去几年,这家公司一直以“AI安全”的代表自居。它批评先进模型能力扩散带来的风险,呼吁加强监管,强调模型安全治理,并借此与Open AI等竞争对手形成差异化定位。然而如今,正是这家最强调安全的公司,被发现通过隐蔽方式对部分用户环境进行识别和标记。

这种反差,让整个事件变得格外耐人寻味。


一场从开发者社区开始的风暴

这次事件最早并不是由监管部门发现。7月1日,海外开发者在对Claude Code进行逆向分析时发现,部分版本中存在针对特定环境的识别逻辑。随后相关代码在开发者社区迅速传播。



根据公开披露的信息,这套机制并不只是检测用户IP地址,而是会主动读取本地系统环境信息,例如检查设备时区是否设置为“Asia/Shanghai”等中国时区,同时分析开发环境中的部分域名配置、网络环境特征等信息,以判断用户是否来自中国企业或中国开发机构。

更关键的是,这一过程并不会向用户发出任何提示——没有弹窗提醒、没有授权确认、也没有在设置页面进行公开说明。识别结果会以特殊方式嵌入正常请求中回传服务器,而绝大多数用户甚至不会意识到这一过程已经发生。

随后,Anthropic工程师承认相关代码确实存在,但解释称其目的是识别违规代理访问以及模型蒸馏行为,并表示相关机制已经开始移除。

但对于很多开发者而言,问题已经不再是Anthropic最终上传了什么数据。而是另一件更严重的事情:一家拥有极高系统权限的AI Agent,已经证明自己有能力在用户毫不知情的情况下对用户进行识别、标记,并将结果回传给服务提供商。

对于普通聊天机器人来说,这或许只是一次隐私争议。但Claude Code并不是普通聊天机器人。作为一款AI编程工具,它天然拥有比传统软件更深入的系统权限。它需要读取项目代码、分析文件结构、访问开发环境,甚至能够调用本地命令帮助开发者完成任务。

换句话说,当这样一款工具开始突破用户知情与授权的边界时,使用者在软件背后的开发者面前,完全属于裸奔状态,没有人能够知道Claude Code拿了你什么信息,拿去做什么。


一个被忽略的背景:模型蒸馏战争

如果把Claude Code事件单独拿出来看,很容易把它理解成一次隐私事故。但实际上,这件事还有一个重要背景。

就在不久前,Anthropic在向美国政府官员和国会工作人员提交的政策材料中,公开指控阿里巴巴通义团队通过大量账号对Claude进行大规模模型蒸馏。在Anthropic的描述中,这些账号持续调用Claude接口,通过收集输入输出结果训练自身模型,从而实现能力复制。

过去两年,大模型行业竞争逻辑已经发生变化。2023年行业讨论的是谁的模型更聪明;2024年讨论的是谁的推理能力更强;而到了2026年,越来越多头部AI公司开始担心另一件事——如何防止自己的模型被复制。

原因并不复杂。与传统软件不同,大模型的一部分能力是可以通过蒸馏技术进行迁移的。只要能够持续调用先进模型,并积累足够多的数据样本,就有机会训练出能力相近的新模型。而这种行为在技术和商业层面都没有问题。

从这个角度看,Anthropic加强访问监测、识别异常调用行为,并非完全没有逻辑。问题在于,它最终选择的方式触碰到了用户信任边界。为了防止模型被蒸馏,它开始识别用户。为了保护自身安全,它开始弱化用户知情权。而这恰恰构成了这次争议最核心的矛盾。


最强调安全的公司,为何先踩中了红线?

Anthropic过去几年最大的品牌资产,并不是Claude模型本身。而是“安全”。

从Constitutional AI,到Responsible Scaling Policy,再到一系列前沿模型治理框架,Anthropic始终试图向外界证明,自己是行业里最谨慎、最负责任的那家公司。

它反复强调先进AI风险、强调监管的重要性……这些观点帮助Anthropic获得了大量资本支持,也塑造了其与Open AI截然不同的市场形象。

但这次事件暴露出一个有趣的现象。Anthropic口中的“安全”,和用户理解的“安全”,或许并不是同一件事。对于Anthropic来说,安全意味着模型不会被盗、能力不会扩散、系统不会被滥用。而对于用户来说,安全意味着数据不会被收集、行为不会被监控、身份不会被标记。


当这两种安全发生冲突时,Anthropic最终选择保护自己的模型。这也是为什么此次事件引发如此强烈反弹。因为开发者发现,当企业要求别人遵守更高标准时,它自己未必愿意接受同样标准的约束。


阿里禁用Claude Code,释放了什么信号?

当一家企业一边高举“安全”旗帜,一边在用户不知情的情况下部署隐蔽监测机制时,它所损害的已经不只是产品声誉,而是整个“可信AI”的基础。

也正因如此,在事件曝光之后,国内企业的反应格外迅速。根据公开信息,阿里巴巴已经将Claude Code列入高风险软件名单,禁止员工从7月10日起在所有工作中使用Anthropic公司的Claude Code。有消息称美团、京东等公司此前已通知程序员“收敛Claude等外部AI模型调用”,如有需求必须单独申请。而在去年11月,腾讯就已经将Claude Code移出大模型选择池。

这些企业的反应,未必是针对Anthropic一家公司的特殊处理,而更像是在给整个AI行业划下一条新的红线。在传统软件时代,人们担心的是软件有没有漏洞;而在AI Agent时代,人们更担心的是软件背后的开发者是否值得信任。

过去几年,中美科技竞争主要围绕芯片、算力和先进制造展开。而如今,这种竞争开始延伸到模型、开发工具和开发者生态。

当美国AI公司主动识别中国开发者环境,而中国企业将其排除出内部研发体系时,一个新的趋势正在逐渐形成:全球AI产业链正在沿着不同技术体系、不同规则体系和不同信任体系加速分化。

它越来越像一场攻防战。Anthropic担心模型被蒸馏,中国企业担心工具被监控。双方都在不断强化自己的安全边界。而代价则是开放和信任正在被不断压缩。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
35岁傅彪儿子,住豪宅生活奢华,单身满头白发,和母亲相依为命

35岁傅彪儿子,住豪宅生活奢华,单身满头白发,和母亲相依为命

生命之泉的奥秘
2026-10-20 05:59:45
A股:不必再等周三开盘了,行情已经十分清晰,明天没有任何意外了

A股:不必再等周三开盘了,行情已经十分清晰,明天没有任何意外了

财经大拿
2026-10-20 12:11:04
加拿大媒体曝出惊人消息!一名华人因参加1979年对越自卫反击战被启动驱逐程序!

加拿大媒体曝出惊人消息!一名华人因参加1979年对越自卫反击战被启动驱逐程序!

水泥土的搞笑
2026-10-20 05:44:22
黄然非被带走,其供职的世界500强魏桥集团会受到牵连吗?

黄然非被带走,其供职的世界500强魏桥集团会受到牵连吗?

微评社
2026-10-20 14:56:28
越南人评价中国:环境很好,科技很发达,不过有一点比不上越南

越南人评价中国:环境很好,科技很发达,不过有一点比不上越南

Hi科普啦
2026-10-19 19:35:20
中央明确:职工提前退休,主要有两种方式

中央明确:职工提前退休,主要有两种方式

微法官
2026-10-20 08:05:28
国家出手了!用大陆盾构机挖边境隧道?这口恶气,中国彻底不忍了

国家出手了!用大陆盾构机挖边境隧道?这口恶气,中国彻底不忍了

疯狂小菠萝
2026-10-20 14:59:27
演员李小冉宣布离婚,其结婚逾十年未生育,曾坦言“没有心理成熟到想去承担这样一个沉重的责任”

演员李小冉宣布离婚,其结婚逾十年未生育,曾坦言“没有心理成熟到想去承担这样一个沉重的责任”

台州交通广播
2026-10-20 00:28:24
原来大家都是这样积累人脉的?网友:我就是这样的人确实贵人不断

原来大家都是这样积累人脉的?网友:我就是这样的人确实贵人不断

另子维爱读史
2026-10-20 11:13:27
中方拒签联合声明,邻国也不签,鲁比奥将登机离国,美方打破常规

中方拒签联合声明,邻国也不签,鲁比奥将登机离国,美方打破常规

揽星戈
2026-10-20 07:19:51
中国籍夫妇在日本被捕!涉嫌利用酒店Wi-Fi发送48万封钓鱼邮件

中国籍夫妇在日本被捕!涉嫌利用酒店Wi-Fi发送48万封钓鱼邮件

日本窗
2026-10-19 19:48:45
拼命还清一亿四千万巨债,曾经的“亮剑女神”,现回浙江农家生活

拼命还清一亿四千万巨债,曾经的“亮剑女神”,现回浙江农家生活

阿绐聊社会
2026-10-20 13:23:50
网传新型卖淫方式又来了,评论区炸锅:当“欲望”撞上“钱包”..

网传新型卖淫方式又来了,评论区炸锅:当“欲望”撞上“钱包”..

慧翔百科
2026-10-19 17:42:05
当年许家印对手下有多疯狂?

当年许家印对手下有多疯狂?

流苏晚晴
2026-10-20 12:09:52
车间实拍流出!特斯拉Roadster高压氮气罐引争议,网友:这要炸了,不死也得死啊

车间实拍流出!特斯拉Roadster高压氮气罐引争议,网友:这要炸了,不死也得死啊

火山詩话
2026-10-20 17:01:23
暗流已经出现?苏联当年的颠覆套路再现中国,接连怪事更值得警惕

暗流已经出现?苏联当年的颠覆套路再现中国,接连怪事更值得警惕

補懂事的孩紙
2026-10-16 11:58:16
一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

一个国家能蠢到什么程度?看看法国就明白了:法国黑人接近800万,巴黎新生儿里70%是黑人

怪味历史连连看
2026-09-08 01:55:32
蒋介石秘书回忆:世人都说国民党亡于腐败,其实祸根就坏在1944年那一次秘密调防

蒋介石秘书回忆:世人都说国民党亡于腐败,其实祸根就坏在1944年那一次秘密调防

磊子讲史
2026-10-20 16:36:19
李小冉凌晨发文怒斥:删我评论对吧,你那么见不得人吗

李小冉凌晨发文怒斥:删我评论对吧,你那么见不得人吗

南方都市报
2026-10-20 11:01:47
先别说8架F-22打一架歼-20了,接下来可能是1架F-22被8架歼-20打

先别说8架F-22打一架歼-20了,接下来可能是1架F-22被8架歼-20打

兵鉴史
2026-10-19 00:55:01
2026-10-20 20:16:49
科工力量 incentive-icons
科工力量
观察者网工业科技专栏
315文章数 555关注度
往期回顾 全部

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

21岁驴友遇难 死前表达"饿了"并解开了手机锁屏密码

头条要闻

21岁驴友遇难 死前表达"饿了"并解开了手机锁屏密码

体育要闻

30天30队·奇才:三状元一榜眼 35胜?

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

教育
房产
游戏
旅游
公开课

教育要闻

热门工科,计算机、电气、自动化等5大专业一次讲透

房产要闻

488亩,两大豪宅级项目爆出!清水湾,要杀回来了!

《地城安保公司》试玩开放 胜者可命名角色

旅游要闻

旅业采购 | 寻找旅游路线、海外酒店资源

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版