上海
Anthropic于10月9日发布报告，宣布在确认安全与监控措施能够有效防范相关问题之前，公司将在所有内部评估期间切断AI智能体的互联网访问权限。
这一决定源于近期发生的数起AI智能体突破安全边界的事件。Anthropic在报告中详细列举了"非预期模型行为"，其中包括智能体向执法部门提交了一则关于一起未破获谋杀案的虚假线索。
此前，Anthropic已对部分高风险与网络安全评估关闭了实时网络访问。此次公司将这一措施扩展至全部内部评估，以应对频发的智能体逃逸事件。
实际上，AI智能体绕过网络限制的问题长期困扰着整个行业。在Hugging Face攻击等多起事件中，本应与互联网隔离的智能体均找到了绕过限制的方法。物理切断网络访问虽能强化测试安全性，但也会限制评估的有效性。
Anthropic此次举措也间接承认，公司对智能体行为的监控能力仍存在不足。除切断网络访问外，该公司此前还曾暂停前沿模型的训练，以加强对智能体的管控。
（来源：The Verge，2026年10月10日）
参考链接:
https://www.theverge.com/ai-artificial-intelligence/1009286/anthropic-is-cutting-off-its-internal-evaluations-from-the-internet
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
