网易首页 > 网易号 > 正文 申请入驻

突发|Anthropic 内部系统被 AI Agent 12 小时攻破!会议记录、员工薪酬、内部模型讨论遭访问

0
分享至


编辑 | Tina

策划 | 蔡芳芳

《华盛顿邮报》查阅的一份 Cathedral 报告草稿称,研究人员运行 AI Agent 不到 12 小时,就找到了进入 Anthropic 内部系统的路径,并侵入了这家人工智能公司的内部敏感数据和消息系统。

Anthropic 随后确认,Cathedral 研究人员访问了公司销售、人力资源和 IT 系统中的部分数据;公司称,客户与 Claude 的对话、模型回复、源代码和模型权重均未被访问。

1 不到 12 小时,研究人员通过商业软件漏洞进入 Anthropic 系统

据《华盛顿邮报》查阅的报告草稿,Cathedral 近日向 Claude 聊天机器人的开发商 Anthropic 通报,其研究人员发现了进入这家 AI 公司内部数据和消息系统的路径。

Cathedral 由美国政府效率部(DOGE)的前成员创立,为美国政府和企业客户提供 AI 驱动的网络安全工具。报告称,研究人员利用了 Anthropic 和许多其他公司用于行政及销售工作的商业软件漏洞。

运行 AI Agent 不到 12 小时后,研究人员便找到了访问 Anthropic 内部数据的路径。Cathedral 的报告称,这些数据包括会议记录、薪酬和工作邀请详情,以及讨论 Anthropic 先进 AI 模型的 Slack 消息。Cathedral 是通过 Anthropic 的一项安全测试计划开展测试的;该计划允许外部网络安全专家测试公司的系统。

Anthropic 在声明中确认,Cathedral 研究人员访问了公司销售、人力资源和 IT 系统中的“有限数据”。公司称,研究人员接触到的内容包括部分客户和合作伙伴的商业联系信息,以及一些基础用户账户记录。

Anthropic 同时表示,研究人员无法访问客户发给 AI 模型的消息、模型返回的回复,也无法访问公司 AI 系统背后的代码或“模型权重”。因此,Cathedral 报告中提到的会议记录、薪酬信息和 Slack 消息,与 Anthropic 对实际访问范围的描述并不完全相同。

Anthropic 称,公司监控系统在 Cathedral 报告之前就发现了部分活动,并在当天关闭了相关访问权限。公司还表示,没有证据显示 Cathedral 以外的人员利用了这些漏洞。

2 漏洞来自第三方软件,双方对披露过程说法不同

Cathedral 通过 Anthropic 的网络安全测试计划披露了相关发现。该计划会向报告漏洞的安全研究人员提供奖励。报告草稿称,Cathedral 也通知了相关商业软件供应商,但出于安全考虑,没有公开这些公司的身份。

Anthropic 表示,公司禁用了涉及的商业软件,直到供应商确认漏洞已经修复后才重新启用。Cathedral 报告则称,研究人员“依照安全研究最佳实践,将数据访问量控制在绝对最低限度”。

双方对测试过程是否符合计划规则也有不同说法。Anthropic 认为,Cathedral 夸大了这些发现所“暗示的国家安全影响”,并称这家初创公司没有完整披露其在 Anthropic 系统中的全部活动,因此没有完全遵守漏洞奖励计划的规则。

一名 Cathedral 发言人拒绝置评。接近该公司的消息人士称,研究人员尝试访问 Anthropic 系统,是为了揭示美国领先 AI 开发商面临的安全挑战。由于发现涉及敏感信息,这名人士要求匿名。

AI 编程初创公司 Cognition 的首席信息安全官 Alex Stamos 应《华盛顿邮报》请求审阅了 Cathedral 的发现。他说:“他们发现了一个很严重的问题。”Stamos 曾任斯坦福大学网络政策中心下属斯坦福互联网观察站主任。

Stamos 认为,将第三方应用连接到公司系统所带来的风险,是“所有人都面临的巨大问题”。他说,Cathedral 的发现暴露出 Anthropic 管理外部软件供应商使用方式上的“漏洞”,“这是一个非常难解决的问题,但 Anthropic 本可以做得好得多”。Cognition 使用 Anthropic 及其他 AI 公司的模型。

3 事件引发对 AI 公司安全防护的担忧

Cathedral 的发现,让外界再次关注 AI 公司依赖第三方企业软件所带来的安全风险。普通商业软件一旦出现漏洞,可能成为攻击者进入大型科技公司内部系统的入口。Cathedral 在报告草稿中称,这一事件“揭示了一个严重差距:新兴的攻击能力正在增强,而防御体系没有跟上”。

报告还写道:“普通企业软件中的弱点竟能危及最先进组织的基础设施,这一事实应当为每一家企业敲响警钟。”

本月早些时候,联邦调查局逮捕了一名 ChatGPT 开发商 OpenAI 的员工。该员工涉嫌在一间高管会议室里放置录音设备。上个月,曾借助 Anthropic 的 Claude 聊天机器人侵入 OpenAI 系统的黑客警告称,AI 行业尚未准备好应对自身技术带来的安全风险。

Cathedral 由 DOGE 前成员创立,正寻求政府合同和私营部门机会。投资者对这家公司的估值为 14 亿美元。Cathedral 联合创始人 Gavin Kliger 在 DOGE 任职后,曾担任五角大楼首席数据官。

据数据公司 PitchBook,Cathedral 已从投资者处融资 1.6 亿美元。知名投资人 Marc Andreessen、Shaun Maguire 均在该公司董事会任职。

Anthropic 员工 Jacob Coxon 上个月公开辞职。他表示,自己担心 Anthropic 在处理危险 AI 技术时不够负责,其中包括依赖传统商业软件。他在 X 上发文称,公司押下了“一场傲慢的赌局,而这不该从一家私营公司的 Slack 上发起”。Slack 是 Anthropic 和许多其他科技公司使用的商业消息工具。

消息来源:

https://www.washingtonpost.com/technology/2026/10/26/researchers-cybersecurity-start-up-cathedral-got-inside-anthropic/

声明:本文为 InfoQ 整理,不代表平台观点,也不构成投资建议,未经许可禁止转载。

热度延续:12 月 AICon 北京站见

12 月 18–19 日,AICon 全球人工智能开发与应用大会将在北京举办。本届大会以探索 A 应用边界为主题,设置 13 大技术专题,覆盖大模型后训练、推理优化、Agent 工程、知识工程、智能体评测与安全、自进化系统、AI 软件交付、原生架构及组织变革等核心方向,汇聚一线技术专家,深入分享 AI 技术突破与企业规模化落地的真实实践。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
研究发现:吃1颗阿司匹林,就等于给血管清一次淤?医生一文说清

研究发现:吃1颗阿司匹林,就等于给血管清一次淤?医生一文说清

健康科普365
2026-10-21 09:23:03
女子赌博一夜间输掉245万,丈夫只是问了一句,她拿起菜刀追着砍

女子赌博一夜间输掉245万,丈夫只是问了一句,她拿起菜刀追着砍

闻识
2026-10-27 10:22:42
或真成中超笑话!蓉城最后一轮若在客场丢冠,将创造4大名场面

或真成中超笑话!蓉城最后一轮若在客场丢冠,将创造4大名场面

兵哥篮球故事
2026-10-27 12:15:15
荣耀、影石等深企响应灵活办公,有员工带薪连休9天

荣耀、影石等深企响应灵活办公,有员工带薪连休9天

南方都市报
2026-10-27 21:31:49
陈熠:本来以为赢了张本美和拿冠军就很开心,没想到,现在更开心了

陈熠:本来以为赢了张本美和拿冠军就很开心,没想到,现在更开心了

无聊的候
2026-10-27 06:24:44
姆巴佩道歉

姆巴佩道歉

澎湃新闻
2026-10-27 20:56:07
第一批独生子女的扎心现实:父母去世后,成了举目无亲的“孤儿”

第一批独生子女的扎心现实:父母去世后,成了举目无亲的“孤儿”

千秋文化
2026-02-01 20:31:47
被网友骂虎背熊腰,徐冬冬只回了五个字:不好意思,我是标准体重

被网友骂虎背熊腰,徐冬冬只回了五个字:不好意思,我是标准体重

华文商讯
2026-10-26 11:03:51
乌克兰暂停袭击俄炼油厂,但美国未能满足泽连斯基的三个要求

乌克兰暂停袭击俄炼油厂,但美国未能满足泽连斯基的三个要求

山河路口
2026-10-27 23:02:56
全网第一例!iPhone Duo外屏惊现绿线:没摔没磕碰

全网第一例!iPhone Duo外屏惊现绿线:没摔没磕碰

快科技
2026-10-27 14:46:22
全靠翻译软件谈恋爱,一个印度黑工,怎么把39岁中国女子骗上绝路

全靠翻译软件谈恋爱,一个印度黑工,怎么把39岁中国女子骗上绝路

莫地方
2026-10-25 20:50:54
41分之内定胜负:凯恩73球压过姆巴佩58球夺金球

41分之内定胜负:凯恩73球压过姆巴佩58球夺金球

快乐加载中21
2026-10-28 03:56:07
“大陆警察,有本事来抓我啊!”台独分子,沈伯洋狂妄叫嚣

“大陆警察,有本事来抓我啊!”台独分子,沈伯洋狂妄叫嚣

果妈聊娱乐
2026-10-16 14:39:08
姆巴佩迎来全网骂潮,是因为他触及了,中国球迷的“3个底线”

姆巴佩迎来全网骂潮,是因为他触及了,中国球迷的“3个底线”

观锐器
2026-10-27 14:10:38
放弃中国国籍加入英国,20年后她带着两个孩子回杭州,如今怎样了

放弃中国国籍加入英国,20年后她带着两个孩子回杭州,如今怎样了

做一个合格的吃瓜群众
2026-10-27 16:05:08
网友自曝最近失业,问“有没有比失业更可怕的事”?评论区炸锅..

网友自曝最近失业,问“有没有比失业更可怕的事”?评论区炸锅..

慧翔百科
2026-09-24 11:48:27
iPhone Duo屏幕开裂遭集中投诉,前国产手机高管嘲讽称:以前苹果工程师吃住在中国生产线上,如今则是越来越疏远

iPhone Duo屏幕开裂遭集中投诉,前国产手机高管嘲讽称:以前苹果工程师吃住在中国生产线上,如今则是越来越疏远

逍遥漠
2026-10-27 11:28:59
一屋子名流看着她被拖进洗手间:比坏人更可怕的,是满屋子的沉默

一屋子名流看着她被拖进洗手间:比坏人更可怕的,是满屋子的沉默

Xww
2026-10-25 14:52:05
提醒:空腹血糖高于7,4种食物要舍得吃

提醒:空腹血糖高于7,4种食物要舍得吃

药师方健
2026-10-27 21:37:14
媒体人:曼联留用卡里克 资金是主要原因,高层对此决定并不统一

媒体人:曼联留用卡里克 资金是主要原因,高层对此决定并不统一

云隐南山
2026-10-28 00:07:01
2026-10-28 04:44:49
InfoQ incentive-icons
InfoQ
有内容的技术社区媒体
13128文章数 52131关注度
往期回顾 全部

科技要闻

M6芯片版14英寸MacBook Pro:15999元起

头条要闻

光明日报批姆巴佩:不容侮辱中国已故伟大领袖

头条要闻

光明日报批姆巴佩:不容侮辱中国已故伟大领袖

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

订单越厚,账单越重:算力租赁的杠杆游戏

汽车要闻

纯电续航1003km 大五座SUV腾势N8正式开启预订

态度原创

数码
教育
家居
时尚
艺术

数码要闻

Twelve South推出带屏幕的AirFly View 方便无线耳机连接飞机音响

教育要闻

26年上海中考数学到底难不难?来听听同学们怎么说

家居要闻

2026建博会(广州) 公装联探展交流活动

尹佳恩:世界尚未给出答案

艺术要闻

寒江不只有孤隐,风雪里有一秤人间 —— 读朱邦《丰溪渔隐图》

无障碍浏览 进入关怀版