北京
分享至
Anthropic周四披露，它打断了一场由俄罗斯国家支持的黑客组织发起的行动。该组织滥用Claude，搭建起一套AI辅助的工作流，用来在被检测到之后快速重写恶意软件。
被点名的组织：GTG-20006
Anthropic把这次行动归因于一个它称为GTG-20006的网络间谍组织。其中"GTG"代表"生成式威胁组织"（Generative Threat Group）。这一命名与更广泛的报道相吻合，那些报道将该组织集群与Midnight相关联。
换句话说，攻击者的目标不是写一次恶意软件就完事，而是让AI帮他们在被发现后迅速改头换面，跑在检测规则前面。
AI被用在了哪一环
按Anthropic的说法，Claude在这条链路里承担的是开发辅助角色：帮助构建一套AI辅助的工作流，让恶意软件在被识别后能够被重新改写。
这不是AI第一次被卷入网络攻防，但这次的不同在于，被滥用的对象是一家头部AI公司自家的模型，而发现并打断它的，也正是这家公司自己。
目前披露的信息止于行动被中断、组织被归因这两点。至于这套工作流具体怎么运作、重写后的样本长什么样，Anthropic没有在这次的说明里展开。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
