网易首页 > 网易号 > 正文 申请入驻

突发|Anthropic 内部系统被 AI Agent 12 小时攻破!会议记录、员工薪酬、内部模型讨论遭访问

0
分享至


编辑 | Tina

策划 | 蔡芳芳

《华盛顿邮报》查阅的一份 Cathedral 报告草稿称,研究人员运行 AI Agent 不到 12 小时,就找到了进入 Anthropic 内部系统的路径,并侵入了这家人工智能公司的内部敏感数据和消息系统。

Anthropic 随后确认,Cathedral 研究人员访问了公司销售、人力资源和 IT 系统中的部分数据;公司称,客户与 Claude 的对话、模型回复、源代码和模型权重均未被访问。

1 不到 12 小时,研究人员通过商业软件漏洞进入 Anthropic 系统

据《华盛顿邮报》查阅的报告草稿,Cathedral 近日向 Claude 聊天机器人的开发商 Anthropic 通报,其研究人员发现了进入这家 AI 公司内部数据和消息系统的路径。

Cathedral 由美国政府效率部(DOGE)的前成员创立,为美国政府和企业客户提供 AI 驱动的网络安全工具。报告称,研究人员利用了 Anthropic 和许多其他公司用于行政及销售工作的商业软件漏洞。

运行 AI Agent 不到 12 小时后,研究人员便找到了访问 Anthropic 内部数据的路径。Cathedral 的报告称,这些数据包括会议记录、薪酬和工作邀请详情,以及讨论 Anthropic 先进 AI 模型的 Slack 消息。Cathedral 是通过 Anthropic 的一项安全测试计划开展测试的;该计划允许外部网络安全专家测试公司的系统。

Anthropic 在声明中确认,Cathedral 研究人员访问了公司销售、人力资源和 IT 系统中的“有限数据”。公司称,研究人员接触到的内容包括部分客户和合作伙伴的商业联系信息,以及一些基础用户账户记录。

Anthropic 同时表示,研究人员无法访问客户发给 AI 模型的消息、模型返回的回复,也无法访问公司 AI 系统背后的代码或“模型权重”。因此,Cathedral 报告中提到的会议记录、薪酬信息和 Slack 消息,与 Anthropic 对实际访问范围的描述并不完全相同。

Anthropic 称,公司监控系统在 Cathedral 报告之前就发现了部分活动,并在当天关闭了相关访问权限。公司还表示,没有证据显示 Cathedral 以外的人员利用了这些漏洞。

2 漏洞来自第三方软件,双方对披露过程说法不同

Cathedral 通过 Anthropic 的网络安全测试计划披露了相关发现。该计划会向报告漏洞的安全研究人员提供奖励。报告草稿称,Cathedral 也通知了相关商业软件供应商,但出于安全考虑,没有公开这些公司的身份。

Anthropic 表示,公司禁用了涉及的商业软件,直到供应商确认漏洞已经修复后才重新启用。Cathedral 报告则称,研究人员“依照安全研究最佳实践,将数据访问量控制在绝对最低限度”。

双方对测试过程是否符合计划规则也有不同说法。Anthropic 认为,Cathedral 夸大了这些发现所“暗示的国家安全影响”,并称这家初创公司没有完整披露其在 Anthropic 系统中的全部活动,因此没有完全遵守漏洞奖励计划的规则。

一名 Cathedral 发言人拒绝置评。接近该公司的消息人士称,研究人员尝试访问 Anthropic 系统,是为了揭示美国领先 AI 开发商面临的安全挑战。由于发现涉及敏感信息,这名人士要求匿名。

AI 编程初创公司 Cognition 的首席信息安全官 Alex Stamos 应《华盛顿邮报》请求审阅了 Cathedral 的发现。他说:“他们发现了一个很严重的问题。”Stamos 曾任斯坦福大学网络政策中心下属斯坦福互联网观察站主任。

Stamos 认为,将第三方应用连接到公司系统所带来的风险,是“所有人都面临的巨大问题”。他说,Cathedral 的发现暴露出 Anthropic 管理外部软件供应商使用方式上的“漏洞”,“这是一个非常难解决的问题,但 Anthropic 本可以做得好得多”。Cognition 使用 Anthropic 及其他 AI 公司的模型。

3 事件引发对 AI 公司安全防护的担忧

Cathedral 的发现,让外界再次关注 AI 公司依赖第三方企业软件所带来的安全风险。普通商业软件一旦出现漏洞,可能成为攻击者进入大型科技公司内部系统的入口。Cathedral 在报告草稿中称,这一事件“揭示了一个严重差距:新兴的攻击能力正在增强,而防御体系没有跟上”。

报告还写道:“普通企业软件中的弱点竟能危及最先进组织的基础设施,这一事实应当为每一家企业敲响警钟。”

本月早些时候,联邦调查局逮捕了一名 ChatGPT 开发商 OpenAI 的员工。该员工涉嫌在一间高管会议室里放置录音设备。上个月,曾借助 Anthropic 的 Claude 聊天机器人侵入 OpenAI 系统的黑客警告称,AI 行业尚未准备好应对自身技术带来的安全风险。

Cathedral 由 DOGE 前成员创立,正寻求政府合同和私营部门机会。投资者对这家公司的估值为 14 亿美元。Cathedral 联合创始人 Gavin Kliger 在 DOGE 任职后,曾担任五角大楼首席数据官。

据数据公司 PitchBook,Cathedral 已从投资者处融资 1.6 亿美元。知名投资人 Marc Andreessen、Shaun Maguire 均在该公司董事会任职。

Anthropic 员工 Jacob Coxon 上个月公开辞职。他表示,自己担心 Anthropic 在处理危险 AI 技术时不够负责,其中包括依赖传统商业软件。他在 X 上发文称,公司押下了“一场傲慢的赌局,而这不该从一家私营公司的 Slack 上发起”。Slack 是 Anthropic 和许多其他科技公司使用的商业消息工具。

消息来源:

https://www.washingtonpost.com/technology/2026/10/26/researchers-cybersecurity-start-up-cathedral-got-inside-anthropic/

声明:本文为 InfoQ 整理,不代表平台观点,也不构成投资建议,未经许可禁止转载。

热度延续:12 月 AICon 北京站见

12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
钱壮飞长征中离奇死亡,金沙县五十年后揭示真相:他被人用毒害死了!

钱壮飞长征中离奇死亡,金沙县五十年后揭示真相:他被人用毒害死了!

海佑讲史
2026-10-27 10:55:16
中国宣布德国总统即将访问中国,后脚日本就宣布德国总理访问日本

中国宣布德国总统即将访问中国,后脚日本就宣布德国总理访问日本

有态度的何总
2026-10-26 13:47:33
今年冬天最冷18天已确认,具体是什么时间?记得转告家里人!

今年冬天最冷18天已确认,具体是什么时间?记得转告家里人!

小谈食刻美食
2026-10-27 12:04:17
重庆挖出一具戴手铐女尸,鉴定后确认:她是中央苦寻26年的人

重庆挖出一具戴手铐女尸,鉴定后确认:她是中央苦寻26年的人

磊子讲史
2026-10-24 14:26:05
A股:尾盘为何加速跳水了?原因是这两点!明天周三或将这样走

A股:尾盘为何加速跳水了?原因是这两点!明天周三或将这样走

明心
2026-10-27 16:16:49
人民日报:一些地区将12345热线满意率作为重要考核指标,导致部分工作人员只管追着群众要“好评”,不关心问题是否解决

人民日报:一些地区将12345热线满意率作为重要考核指标,导致部分工作人员只管追着群众要“好评”,不关心问题是否解决

每日经济新闻
2026-10-26 17:45:20
反歧视火力全开,辱华就沉默!皇马这套“双标”大家该看清了!

反歧视火力全开,辱华就沉默!皇马这套“双标”大家该看清了!

绿茵舞着
2026-10-27 14:36:43
姆巴佩道歉:我对中国人民及其历史怀有深深的敬意,我真心感到抱歉

姆巴佩道歉:我对中国人民及其历史怀有深深的敬意,我真心感到抱歉

极目新闻
2026-10-27 19:55:17
大爷往某APP充值112万余元 一月内显示盈利超1000万元 提现1100元后被索要89万元分红 民警连夜追回111万

大爷往某APP充值112万余元 一月内显示盈利超1000万元 提现1100元后被索要89万元分红 民警连夜追回111万

每日经济新闻
2026-10-27 02:35:54
岳飞满江红原版重现天日,学者透露:大众所知的满江红第一句就被改过

岳飞满江红原版重现天日,学者透露:大众所知的满江红第一句就被改过

磊子讲史
2026-10-14 16:53:55
改写教科书!男性阴茎最敏感的“G点”首次被定位

改写教科书!男性阴茎最敏感的“G点”首次被定位

临药网
2026-10-27 07:59:56
加里宁格勒将发生兵变,叛军计划将坦克和部队运入立陶宛

加里宁格勒将发生兵变,叛军计划将坦克和部队运入立陶宛

知兵
2026-10-23 01:12:35
“多所高校将通过数字人民币发工资”,热搜第一!和打进银行卡有什么不一样?

“多所高校将通过数字人民币发工资”,热搜第一!和打进银行卡有什么不一样?

观察者网
2026-10-27 17:24:08
这一回中国真要杀鸡给猴看,挑中的是荷兰。不是美国,不是日本,不是菲律宾,是荷兰

这一回中国真要杀鸡给猴看,挑中的是荷兰。不是美国,不是日本,不是菲律宾,是荷兰

扶苏聊历史
2026-10-26 14:36:51
运营奇迹!大连英博3500万净投入争冠:票房收入达世界级水准

运营奇迹!大连英博3500万净投入争冠:票房收入达世界级水准

邱泽云
2026-10-27 16:15:22
吃中国饭,砸中国锅?姆巴佩,不配!

吃中国饭,砸中国锅?姆巴佩,不配!

极目新闻
2026-10-27 11:28:33
一万人也劝不住,河南男子入职2月被外派飞东南亚,落地傻眼了

一万人也劝不住,河南男子入职2月被外派飞东南亚,落地傻眼了

天天热点见闻
2026-10-25 06:53:38
再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

再见了,唐国强,再见了,古月,中国影视迎来新特型演员时代

与笑相拥m
2026-10-25 10:48:35
幼年朱珠,和爷爷朱虚之相处的画面

幼年朱珠,和爷爷朱虚之相处的画面

娱你同欢
2026-10-23 21:03:19
WTT冠军赛:申裕斌首局大获全胜!世界亚军仅得2分,0-1落后!

WTT冠军赛:申裕斌首局大获全胜!世界亚军仅得2分,0-1落后!

刘姚尧的文字城堡
2026-10-27 19:13:47
2026-10-27 20:20:49
InfoQ incentive-icons
InfoQ
有内容的技术社区媒体
13128文章数 52130关注度
往期回顾 全部

科技要闻

Anthropic最硬气招股书,先把丑话说在前头

头条要闻

家长月均花约3000元住酒店陪读:综合下来比租房划算

头条要闻

家长月均花约3000元住酒店陪读:综合下来比租房划算

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

韩国芯片出口额可能下降高达1000亿美元

汽车要闻

纯电续航1003km 大五座SUV腾势N8正式开启预订

态度原创

旅游
教育
亲子
房产
健康

旅游要闻

苏州集中发布五大类水上游特色产品,沉浸式水上夜游项目“君到姑苏”同步启航

教育要闻

微积分之争!牛顿VS莱布尼茨 #AI创作浪潮计划

亲子要闻

宝宝喊爸爸时声音短促响亮,喊妈妈时声音变得软糯,网友:这谁听了不心软啊

房产要闻

从全国第一跌到第七!海南人,放下生娃焦虑!

查不出猝死风险?可能是项目没做对

无障碍浏览 进入关怀版